在最近统计学上讲关于机器学习和人工智能的神秘化，著名作家，统计学家和教育家戴维·汉德（David Hand）的开幕大会为与我们的专家小组成员进行一些非常有趣的讨论奠定了基础：WL的统计学家Cameron Willden 血块; Wildstats Consulting的创始人Sam Gardner； JMP的高级系统工程师Jason Wiggins。
在里面以前的帖子，我们的小组成员回答了我们在直播活动期间收到的有关专业知识和培训的问题。在这篇文章中，他们分享了有关数据和建模问题的想法。第一个问题是关于黑暗数据的，这是戴维·汉德（David Hand）最新著作的名称，黑暗数据：为什么您不知道重要（强烈推荐）。
暗数据的反面是亮数据。 那不是稀有吗？
山姆：通常，在组织数据科学之旅的早期阶段，他们发现自己存在许多暗数据问题。要解决的主要问题是如何获取正确的数据。 真正想要解决问题并很好地解决问题的组织将拥有使他们能够生成和收集“明亮的”和良好的数据的方法，策略和系统。
JMP是否可以“仅”拟合丢失的数据，例如使用支持向量机或GenReg？ 要以某种方式使用缺失数据的结构与现有数据进行拟合-有点像逆拟合？这与“信息缺失”有所不同。
杰森：我将在“探索缺失值”实用程序中检查多元SVD插补和自动数据插补，看看它们是否可以满足您的期望。
山姆： JMP和JMP专业版可以基于数据的相关结构进行多次插补。请参阅在线帮助估算缺失数据和探索缺失的价值。
我们可以使用哪种机器学习模型来处理不互斥的多标签数据？
卡梅隆：如果我对您的理解正确，那么您只需做出多个答复即可完成此任务。例如，模型可能会进行处理和图像化，以将某人分类为年龄或年轻人，并将其分别分类为男性和女性。
对过程数据具有高可变性的过程输出进行预测建模的最佳方法是什么？
卡梅隆：克服高变异性的最佳方法是使用大量数据，例如，均值的标准误差在分母中具有样本大小的平方根。
杰森：确定过程变化的来源；持续投资以测量和收集数据。 您的过程中测量了多少关键过程输入？ 是否有足够的信息足以描述输出中的变化？ 我参与并领导了旨在理解此类问题的项目。它们可能很棘手，但有必要。建模不是魔术。 您需要良好的信息才能成功。 在深入探讨深奥模型之前，我会先在这里投资。
当希望在较小的数据集上训练新模型以便更快地获得奖励（省钱）时，这样做的一些好实用提示-即使使用的模型不尽人意，但“够好了。”
卡梅隆：在深度学习领域，转移学习提供了一种事半功倍的方法。设计的实验是获取有关每个数据点关系的更多信息的另一种方法，因为您以最小化冗余信息量的方式规划这些点。也就是说，通常因素之间的相关性很小，因此方差膨胀因子等于或非常接近1。
杰森：当在较小的数据集上训练模型以避免过度拟合时，“遗忘”或k折交叉验证之类的策略可能会很有用。我已经使用两种交叉验证策略在小数据集上建立了惩罚回归模型，并取得了成功。建立模型时，您多久检查一次实际和预测？ 如果您的预测适合做出业务决策，则该模型可能“足够好”。
以您的经验，解决问题所需的持续/迭代学习模型与离线/一次性模型相比较的时间百分比是多少？各自的优缺点是什么？
卡梅隆：这将因应用领域而有很大差异。 如果我基于领先指标对产品需求进行建模，则我绝对希望这些关系随着时间的推移而发展。 使我的生产模型随着时间的推移发展和适应将是非常有利的。 如果我基于一系列物理属性对机器输出进行建模，则这些关系可能会随着时间的推移保持稳定，并且我不必担心在线学习。 可能例外，如果我希望随着更多数据的输入，模型的参数估计值随着时间的推移变得更加精确。
当您不在那里调查/观察过程时，您可能会漏掉问题的根源；同样，COVID使这一点变得复杂。 作为研究者/问题解决者/数据科学家，当我们不能“在那里”收集数据时，我们该怎么办？
卡梅隆：这是一个很好的问题，我唯一想说的就是弄清楚如何使收集数据的人员参与数据分析。 即使他们没有分析背景，他们也可能足够了解图形分析以参加讨论，并从第一手经验中汲取见解，从而为讨论和解释做出贡献。
杰森：这是困难的一个！您是否可以使用虚拟工具查看流程？ 谁在运行该进程？ 是否可以训练他们对可以解释数据中出现的问题的过程进行观察？您可以进行虚拟流程遍历吗？
数据过多可能导致错误的安全性，即数据无偏。在新的反事实数据到来时使用大量有偏数据的缓解步骤是什么？
山姆：测试您的模型。始终查看您开发的模型是否仍能很好地预测。确保已充分理解模型的“支持”（用于构建模型的预测变量的范围），并进行检查以查看使用该模型的新情况是否在“支持”范围之外进行预测。当您收集了足够的新数据后，可以对模型进行重新训练，因此您应该将旧模型与新模型进行比较，以查看它们是否做出相似或不同的预测。
在AI / ML模型上需要什么类型的计算机/机器？ 可以在具有足够RAM的笔记本电脑上完成吗？
卡梅隆：这实际上取决于您在做什么。 并非所有ML都是使用包含数百万个参数的庞大数据集和模型完成的。 您可能在智能手机上具有足够的处理能力来执行许多AI / ML。 一旦开始使用甚至几十GB大小的数据集，那么即使您正在批量处理数据，也可能会遇到PC上可以做的限制。 如果您要对图像或视频进行深度学习，那么并行和GPU计算就变得非常重要。那时，您可能正在使用组织内的共享计算资源或基于云的服务。 Google Colaboratory是访问GPU计算以进行深度学习的一种免费，便捷的方法。您也可以为访问该服务的更高级别的GPU计算能力付费。
杰森：您要使用哪种类型的ML模型？您有多少数据？ 我完成的许多建模练习都是在笔记本电脑工作站上进行的：四核处理器，32 GB RAM等。 我参与了一个缺陷检测项目，卷积神经网络从过程中的摄像头中识别出制造缺陷。 我们制造了高端定制游戏PC来解决此问题，并在我离开该项目之前正在研究服务器的部署。 我的笔记本电脑工作站和游戏机之间的最大区别是图形卡。 如果您打算进行图像分析和/或GPU计算，则笔记本电脑的图形卡可能还不够。 如果速度和内存成为问题，则可能要使用服务器或研究分布式计算。
在您的职业生涯中，最能帮助您发展的工具/技术（清洁，组合，建模或其他）是什么？
卡梅隆：好奇心，乐于尝试的努力，顽强的决心找出克服障碍的方法以及边做边学比任何特定的工具和技术都重要得多。 您可以一路挑选所需的东西。
杰森：之前JMP有了Recode实用程序，我认为帮助我的一种工具是利用数组和矩阵进行数据清理。脚本中的一些矩阵数学，矩阵操作和/或逻辑索引可以用来发现和修复数据中的问题，这真是令人惊讶。 正则表达式是另一个工具，在清理/整理文本数据方面对我的职业产生了很大影响。 现在我们有了Recode，这是我最喜欢的数据清理工具！它支持文本正则表达式，并且可以轻松找到数字数据中的问题。 由于您可以将结果另存为公式，因此重新编码会自动执行我以前执行的大多数脚本。“探索异常值”和“探索模式”实用程序还完成了我过去使用数据清理脚本处理的许多工作。 都是省时的！最重要的是，我想说的是，在分析工作流程的所有阶段中利用数据可视化来解锁数据背后的故事对我的职业影响最大。
山姆：老实说，制作好的数据图可能是我能做的最有效的事情。 如果将其放在图片中，它将说明数据的故事和问题。 第二个最重要的工具是写作：传达分析结果，总结已学到的知识并提出进一步行动的建议。 如果您不写下来，人们将不会记得或不知道发生了什么。
您如何说服以机械模型为基础的流程（操作和控制）的化学或制药行业跳入黑盒替代方案？混合方法是第一步吗？
卡梅隆：机械模型是否以某种方式阻止了它们？ 对我而言，机械模型总是可以取用的。 就像您不需要进行物理教育就可以理解扔球时会发生什么一样，计算机可以通过查看大量示例来了解事物的工作原理。 但是，如果您了解所有物理计算和参数值，则几乎不需要（如果有）数据即可进行准确的预测。 将情况分解为基本原则的情况越好，所需的数据就越少，也不必担心外推。数据驱动的模型（我将使用它而不是“黑匣子”）对于解决知识鸿沟或跨复杂性近似非常有用。 如果要获得100％的答案将花费数月，但您现在可以使用数据驱动的模型来获得95％的答案，您会选择什么？ 第一种选择的机会成本是多少（想想所有这些额外的时间可以做什么）？
我们对Sam使用了什么耳机（Plantronics 655 DSP）以及如何获得本书有疑问。可以直接从订购电子书SAS出版社和印刷版可在亚马孙。第二版正在进行中，应于2021年上市！
您可以观看此剧集的点播版本统计学上讲并阅读摘抄从科学的一章黑暗数据。能够分类并更好地处理所有暗数据将使您的模型更加有用。 我们感谢观众提出这样的好问题，也感谢Cameron，Sam和Jason分享了他们的更多专业知识！
