在最近從統計學上講關於揭開機器學習和人工智能的神秘面紗，著名作家、統計學家和教育家 David Hand 的開幕全體會議為與我們的專家小組成員進行了一些非常有趣的討論奠定了基礎：WL 的統計學家 Cameron Willden 血塊; Wildstats Consulting 創始人 Sam Gardner； JMP 高級系統工程師 Jason Wiggins。
在裡面上一篇，我們的小組成員回答了我們在直播活動中收到的有關專業知識和培訓的問題。在這篇文章中，他們分享了他們對數據和建模問題的看法。第一個問題恰如其分地與暗數據有關，這是 David Hand 最新一本書的名字，暗數據：為什麼你不知道的很重要（強烈推薦）。
暗數據的對立面是亮數據。 那不是很稀有嗎？
山姆：通常在組織數據科學之旅的早期階段，他們發現他們有很多暗數據問題。首要要解決的問題是如何得到正確的數據。 真正想要解決問題——並很好地解決它們——的組織將擁有讓他們生成和收集“明亮”和良好數據的方法、策略和系統。
JMP 能否僅“擬合”缺失數據，例如，使用支持向量機或 GenReg？ 以某種方式使用缺失數據的結構和現有數據來擬合它——有點像逆擬合？這與“信息缺失”不同。
傑森：我會在“探索缺失值”實用程序中檢查多元 SVD 插補和自動數據插補，看看它們是否能滿足您的期望。
山姆：和JMP臨可以根據數據的相關結構進行多重插補。請參閱聯機幫助估算缺失數據和探索缺失值.
我們可以使用什麼樣的機器學習模型來處理不互斥的多標籤數據？
卡梅倫：如果我對你的理解是正確的，你可以簡單地通過多個響應來完成。例如，模型可能會處理和成像以將某人分類為年老或年輕，並分別區分為男性和女性。
對過程數據具有高可變性的過程輸出進行預測建模的最佳方法是什麼？
卡梅倫：克服高可變性的最佳方法是使用大量數據，例如，均值的標準誤差在分母中具有樣本大小的平方根。
傑森：識別過程變異的來源；投資於持續測量和收集數據。 在您的過程中測量了多少關鍵過程輸入？ 是否足以充分描述輸出的變化？ 我參與並領導了旨在理解此類問題的項目。它們可能很棘手，但它們是必要的。建模不是魔術。 你需要好的信息才能成功。 在深入研究深奧的模型之前，我會先在這裡投資。
當想要在小數據集上訓練一個新模型以便更快地獲得回報（省錢）時，有什麼好的、實用的技巧可以做到這一點——即使是使用一個不太完美的模型，但它是“夠好了。”
卡梅倫：在深度學習領域，遷移學習提供了一種事半功倍的方法。設計實驗是獲取有關每個數據點關係的更多信息的另一種方法，因為您以最小化冗餘信息量的方式規劃這些點。也就是說，因子之間的相關性通常很小，因此方差膨脹因子等於或非常接近 1。
傑森：在較小的數據集上訓練模型以避免過度擬合時，諸如“留一法”或 k 折交叉驗證之類的策略可能很有用。我在使用兩種交叉驗證策略的小數據集上的懲罰回歸模型上取得了成功。當您構建模型時，您多久檢查一次實際值與預測值？ 如果您的預測適合做出業務決策，則該模型可能“足夠好”。
根據您的經驗，您需要應用持續/迭代學習模型與離線/一次性模型來解決問題的時間百分比是多少？各自的優缺點是什麼？
卡梅倫：這將因應用領域而有很大差異。 如果我根據領先指標對產品需求建模，我絕對應該期望這些關係會隨著時間的推移而發展。 讓我的生產模型隨著時間的推移而發展和適應將是非常有利的。 如果我根據一堆物理屬性對機器輸出建模，那麼隨著時間的推移，這些關係可能會保持穩定，而且我不需要太擔心在線學習。 例外情況可能是，如果我希望我的模型的參數估計隨著更多數據的輸入而隨著時間的推移變得更加精確。
當您不在場調查/觀看過程時，您可能會錯過問題的原因；此外，COVID 使這變得複雜。 作為研究人員/問題解決者/數據科學家，當我們不能“在那裡”收集數據時，我們該怎麼辦？
卡梅倫：好問題，我唯一能真正想說的就是弄清楚如何讓收集數據的人參與數據分析。 即使他們沒有分析背景，他們也可能能夠很好地理解圖形分析以參與討論，並從他們的第一手經驗中提出見解，為討論和解釋做出貢獻。
傑森：這是困難的一個！是否有可用於查看流程的虛擬工具？ 誰在運行這個過程？ 是否可以訓練他們對可以解釋數據中出現的問題的過程進行觀察？你能做虛擬流程走動嗎？
數據的豐富性可能導致數據不偏不倚的虛假安全。在新的反事實數據到來時使用大量有偏見的數據的緩解步驟是什麼？
山姆：測試你的模型。始終查看您開發的模型是否仍能很好地預測。確保模型的“支持”（用於構建模型的預測變量的範圍）得到很好的理解，並進行檢查以查看使用該模型的新情況是否預測超出“支持”範圍。當您收集到足夠多的新數據時，可以重新訓練模型，因此您應該將舊模型與新模型進行比較，看看它們是否做出了相似或不同的預測。
處理 AI/ML 模型需要什麼類型的計算機/機器？ 可以在具有充足 RAM 的筆記本電腦上完成嗎？
卡梅倫：這真的取決於你在做什麼。 並非所有 ML 都是使用包含數百萬個參數的龐大數據集和模型完成的。 你的智能手機可能有足夠的處理能力來做大量的人工智能/機器學習。 一旦您開始處理大小為數十 GB 的數據集，那麼您可能會開始遇到在 PC 上可以執行的操作的限制，即使您正在批量處理數據也是如此。 如果你在做圖像或視頻的深度學習，那麼並行和 GPU 計算就變得非常重要；那時，您可能正在使用組織內的共享計算資源或使用基於雲的服務。 Google Colaboratory 是訪問用於深度學習的 GPU 計算的一種免費且簡單的方法。您也可以付費訪問該服務上更高層的 GPU 計算能力。
傑森：您想要使用哪種類型的 ML 模型？你有多少數據？ 我完成的許多建模練習都是在筆記本電腦工作站上進行的：四核處理器、32 GB RAM 等。 我參與了一個缺陷檢測項目，我們使用了卷積神經網絡從過程中的相機饋送中識別製造缺陷。 我們構建了高端定制遊戲 PC 來解決這個問題，並且在我離開該項目之前正在研究服務器部署。 我的筆記本電腦工作站和遊戲機之間最大的區別是顯卡。 如果您計劃進行圖像分析和/或 GPU 計算，筆記本電腦顯卡可能不夠用。 如果速度和內存是個問題，您可能需要使用服務器或研究分佈式計算。
對您的職業發展幫助最大的工具/技術（清理、組合、建模或其他）是什麼？
卡梅倫：好奇心、嘗試困難事物的意願、找出克服障礙的方法的頑強決心以及邊做邊學比任何特定的工具和技術都重要得多。 一路上你可以買到你需要的東西。
傑森：前JMP有 Recode 實用程序，我認為對我有幫助的一個工具是利用數組和矩陣進行數據清理。令人驚奇的是，腳本中的一點矩陣數學、矩陣操作和/或邏輯索引可以用來查找和修復數據中的問題。 正則表達式是另一種工具，它在清理/修改文本數據方面對我的職業生涯產生了重大影響。 現在我們有了 Recode，這是我最喜歡的數據清理工具！它支持文本的正則表達式，它可以很容易地發現數字數據中的問題。 由於您可以將結果另存為公式，因此重新編碼會自動執行我以前編寫的大部分腳本。Explore Outliers 和 Explore Patterns 實用程序也做了很多我過去用腳本處理數據清理的事情。 所有這些都可以節省大量時間！最重要的是，我想說在分析工作流程的所有階段利用數據即解開數據背後的故事對我的職業生涯產生了最大的影響。
山姆：老實說，製作好的數據圖表可能是我能做的最有效的事情。 如果你把它放在一張圖片中，它會講述數據和問題的故事。 第二個最重要的工具是寫作：交流分析結果，總結所學知識，並為進一步行動提出建議。 如果你不把它寫下來，人們就不會記得或不知道發生了什麼。
您如何說服將其過程（操作和控制）建立在機械模型上的化學或製藥行業跳入黑盒替代方案？混合方法是第一步嗎？
卡梅倫：機械模型是否以某種方式阻礙了他們？ 對我來說，當機械模型觸手可及時，它總是更可取。 就像你不需要接受物理教育就可以了解當你扔球時會發生什麼一樣，計算機可以通過查看大量示例來了解事物的工作原理。 但是，如果您了解所有的物理計算和參數值，則幾乎不需要任何數據就可以做出準確的預測。 你越能將情況分解為第一原則，你需要的數據就越少，你也就越不必擔心外推。數據驅動模型（我將使用它而不是“黑匣子”）對於解決知識差距或跨複雜性進行近似非常有用。 如果獲得 100% 的答案需要幾個月的時間，但您現在可以使用數據驅動模型獲得 95% 的答案，您會選擇什麼？ 第一個選項的機會成本是多少（想想你可以用所有額外的時間做什麼）？
我們對 Sam 使用的是什麼耳機（Plantronics 655 DSP）以及如何獲得他的書有疑問。電子書可以直接從SAS出版社和硬拷貝可在亞馬遜.第二版正在進行中，應該會在 2021 年面世！
您可以觀看本期節目的點播版從統計學上講並閱讀摘抄從科學章節暗數據。能夠分類並更好地處理所有暗數據將使您的模型更加有用。 感謝觀眾提出如此好的問題，感謝 Cameron、Sam 和 Jason 分享他們的更多專業知識！
