即使在機器學習演算法能夠處理大量資訊的時代，處理大型資料集仍然面臨獨特的挑戰。依賴蠻力分析海量資料集會導致效率低、模型過度擬合、雜訊累積、以及資料量增加所帶來的收益遞減等問題。
智慧子抽樣是指選取具代表性的資料部分，這種方法通常能提供更具針對性和洞察力的分析結果。子抽樣有助於建立更易於解釋的模型，因為減少的資料集簡化了變數之間的關係。因此，智能子抽樣應成為眾多應用領域的首選方法，包括材料科學、生物醫學研究、環境建模、市場分析和社會科學。
但是，既然可以採用更聰明的方法，為什麼還要使用蠻力呢？本次示範將透過互動式的方式，展示 JMP Pro 在複雜材料配方領域的最新功能，說明精心設計的子取樣方法，結合經典和先進的建模技術（多元線性迴歸、神經網路、支援向量機、廣義迴歸），可以得出穩健的預測結果。
大家好。感謝觀看本次2025年歐洲探索高峰會的演講。我是達米安·佩雷特（Damien Perret），法國原子能委員會（CEA）的研發科學家。今天，我和卡羅爾·蘇阿爾（Carole Soual）共同為大家帶來演講，卡羅爾是Ippon Innovation公司的統計學家。我們和卡羅爾非常高興今天能來到這裡，並衷心感謝指導委員會給予我們這次機會，讓我們能夠分享這項研究成果——一種應用於預測建模的智慧子抽樣方法。
我們先來簡單介紹一下法國原子能委員會（CEA）。 CEA是法國政府下屬的研究、開發和創新機構，其研究領域涵蓋四個面向：低碳能源、數位技術、未來醫療技術以及國防和安全。
法國原子能委員會（CEA）在9個地點約有21,000名員工。我們透過各種聯合研究機構與大學建立了牢固的合作關係，擁有大量專利，並擁有約60億歐元的創業孵化預算。
Ippon Innovation 是一家資料科學家公司，致力於為業界提供先進的演算法。我們的目標是優化製造成本和測試時間，從而提升複雜產品的質量，並從大數據中挖掘微小訊號。我們提供諮詢、培訓和按需高級研究服務。我們擁有多個項目，例如客製化統計解決方案和先進工具，其中一些已獲得專利。
這項工作的動機源於這樣一個事實：儘管大多數最新的機器學習演算法能夠處理大量信息，但處理大型數據集仍然面臨一些挑戰。我們認為，與其對海量資料集使用蠻力方法（這可能會由於多種原因導致預測效能下降），不如採用智慧子取樣這種更具洞察力的方法，從而建立更易於解釋的模型。本文展示了該方法在材料科學領域的應用，但我們認為，這種方法也可以應用於物理和化學領域以外的其他領域。
對大家來說，我們在2021年參與了這項研究的探索，並進行了預覽以解釋研究方法。在過去的四年裡，該方法得到了很大的改進，預測能力也顯著提高，因此我們想向大家展示我們最新的研究成果。
本文的主要目標是開發一種精心設計的子採樣方法，正如您將看到的，該方法結合了經典建模技術和更先進的建模技術，以實現穩健的預測。為此，我們希望使用 JSL 編寫演算法，並在 JMP Pro 18 中實作。
今天，我們將以玻璃熔體黏度預測為例，展示如何應用這種方法。因此，模型的反應變數是玻璃黏度。影響因素是玻璃氧化物的重量百分比，我們的資料庫包含商業資料集和專有資料集。
簡而言之，玻璃是一種非晶態材料，透過快速淬火製成，它是多種氧化物的混合物。氧化物的種類繁多，從最簡單的玻璃中的2到3種，到成分最複雜的玻璃中的約30種，甚至更多。
玻璃粘度的一個重要特徵是其變化範圍非常廣，這使得預測這種性質極具挑戰性。玻璃黏度對成分也高度敏感，結晶等機制通常會對熔體的流變性質產生很大影響。
地質學中熔岩的行為可以很好地類比結晶和黏度之間複雜的相互關係。高溫下，熔岩是一種黏稠的均質流體，與氧化物玻璃熔體非常相似。當熔岩溫度降低時，通常會引發快速而大量的結晶，這會對熔體的黏度產生巨大影響。
從這張圖中可以看出，這種結晶引起的黏度增加可達八個數量級，也改變了熔體的實際邏輯行為，使得黏度預測變得非常困難。
我們想在此展示的是，即使對於成分非常簡單的玻璃，黏度預測也並非易事。我們選取了三種SBN玻璃成分，這是一種僅由三種氧化物組成的非常簡單的玻璃。我們應用了文獻中最知名的模型來計算黏度。然後，我們將預測值與我們用自有設備測得的實驗值（圖中以紅色標示）進行了比較。可以看出，即使對於成分非常簡單的玻璃，也很難獲得一個可靠的預測黏度值。
機器學習技術在玻璃材料科學領域，尤其是在玻璃黏度預測方面，應用越來越廣泛，但預測精度仍然有限。我們過去曾嘗試應用神經網路來預測玻璃黏度，但對結果並不滿意。
例如，我們觀察到一些意料之外的模式，以及與實際測量值相差幾個數量級的偏差。最近的一些研究也使用了神經網絡，結果也出現了類似的情況，預測值和測量值之間甚至存在六個數量級的差異。
最後，我們得出結論，全球資料集存在如此大的差異，玻璃熔體中發生瞭如此多的物理和化學非線性機制，影響其黏度，因此在全球資料庫上使用傳統的機器學習並不是最佳方法。
下圖清楚地展示了我們的資料庫，其中每個點代表成分域多維視圖中的一個玻璃杯。數據可能來自不同的獨立研究，也可能來自實驗設計，或來自每次只改變一種成分的參數研究。最終，這形成了一個非常異質且分佈均勻的資料庫。
策略基於這樣的假設：與其使用所有數據，我們認為最好只用相似數據訓練預測模型。例如，如果我們想要預測某個區域的數據，我們會用該區域已有的數據建立模型。如果我們想要預測另一個區域的屬性，則會建立不同的模型。
我們說這種方法是動態的，因為預測模型取決於成分，並根據我們想要預測的範圍進行擬合。它是自動化的，因為我們無需手動操作。每一步都由我們工具中實現的演算法完成。
我們用於建立訓練資料集的策略是基於實驗設計方法。對於每個預測，我們首先圍繞目標成分產生一個最優的實驗設計方案（DOE），然後將該方案的每次運行結果替換為資料庫中最相似的實驗數據，從而得到最終的訓練數據集。
該工具的預測部分實現了四種演算法：一種是基於多元線性迴歸的經典多項式模型、GENREG模型、神經網路模型以及新增的支援向量迴歸模型。最終，我們得到的不是一個預測值，而是四個預測值。透過取這四個預測值的中位數，我們可以得到一個非常穩健的反應估計值。正如我們將在演示中看到的那樣，我們還計算並分析了幾個統計指標，以比較不同預測演算法的性能。
以下是一些關鍵參數。盡可能採納玻璃專家的意見至關重要。其中一個重點是資料的來源和可靠性。為此，本專案投入了大量時間來建立一個可靠的資料庫。
我們還必須創建特定的演算法來處理氧化物和黏度的性質和作用。我們必須實現各種方法，並且必須研究不同的方法來計算相似成分之間的距離。所有這些都在工具演算法中得以實現。
在示範之前，這裡先展示一下工具的示意圖，其中也展示了最近新增的功能。採樣部分和預測模型中的許多演算法都已更新。正如我們之前提到的，支援向量回歸（SVR）也已實現。此外，現在使用者可以輸入單個玻璃成分或成分列表，這使得我們可以透過使用大量成分來評估工具的性能。
就計算時間而言，產生一個產品只需不到一分鐘。這還可以接受，但我們目前正在努力提升程式碼效率。正如我們所說，所有程式碼都是用 JSL 編寫的，並附帶一個插件。
演示，謝謝 Damien。我將分享我的螢幕。 JMP 外掛程式自 JMP Pro 16 版本起就已開發，用於 CEA 的 MS [聽不清楚 00:13:28] 工具。現在它已包含在 JMP Pro 18 版本中。該插件提供兩種玻璃預測方法。 JMP 選單中的第一個按鈕包含一個使用者介面，用於預測單一玻璃在一個或多個溫度下的黏度或熱重 (TG)。第二個按鈕是自動版本，僅預測一組玻璃在某一溫度下的表現。
如果我進入外掛程式資料夾，您可以看到透過兩個按鈕運行的兩個主要腳本，以及這兩個主要腳本使用的不同函數或表達式。該資料夾包含用於預處理資料以建立學習樣本資料、預測模型以及最終建立分析輸出的腳本。
我們先運行第一個按鈕，也就是互動式版本。使用者首先需要選擇包含所有玻璃黏度（JMP 格式）的全域資料庫的資料夾。然後我需要選擇成分元素，也就是我想預測黏度的玻璃的氧化物。最後，我點選「確定」。
在這裡，我需要填寫玻璃整體成分中每種元素的百分比含量。例如，我想要預測黏度的玻璃含有6.5%的氧化鈣（CaO）。最後一步是填寫溫度。我想要預測的是兩種溫度下的黏度：1100攝氏度和1200攝氏度。 Damien解釋的四個模型都適用於這兩種溫度。目標是預測玻璃的黏度。對於這兩種溫度，大約需要1分鐘才能得出結果。
最後，我得到了這個輸出視窗。我們可以選擇最感興趣的溫度來進一步分析預測結果。這裡，我們選擇 1200 度。點擊「執行」按鈕將開啟最終的輸出窗口，該窗口顯示的是 1200 度下的黏度放大圖。
首先，概要部分包含了我們想要預測的玻璃成分以及模型中實際考慮的元素。然後，概要部分給出了模型的質量，例如平均絕對誤差或R平方值。關於自適應DOE方法，還有更多細節可供參考，例如，這裡DOE最優模型和自適應DOE模型之間的相關百分比，兩者之間有80%的元素相關。這是一個非常好的項目。
文中也給出了預測公式和影響。例如，對於BIC模型，我們可以看到SiO₂是模型中最重要的氧化物。最重要的輸出結果在這裡，即圖表中預測結果的匯總，該圖表顯示了不同模型預測的黏度值。我們可以看到每個點對應的黏度預測值。 BIC F模型為61分帕秒，GLM模型為67分帕秒，神經網路模型為49分帕秒，SVR模型為64分帕秒。
圖中綠色虛線水平線所示的玻璃與目標玻璃最接近，其測得的真實黏度為 68 分帕斯卡秒。這個最接近的玻璃就在這裡。它與我們想要預測的玻璃非常接近。例如，我們先前使用的玻璃中 CaO 的含量為 6.5%，而最接近的玻璃中 CaO 的含量為 6.4%。由於我們不知道待預測玻璃的真實黏度，因此我們將預測值與最接近的玻璃的真實黏度進行比較。
最後，對於這種玻璃，預測值的中位數為 62.5，與最接近的玻璃的實測黏度相比，這是一個非常好的結果。 GLM 和 SVR（此處和此處）是預測黏度的最佳模型。
接下來，達米安將以表格的形式展示工具的自動化版本分析和輸出結果。
我們使用包含 7500 個資料的測試集評估了該工具的效能。我們關注的指標是黏度對數的絕對誤差，它反映了預測黏度與報告值之間的數量級差異。我們通常認為，在整個可能的黏度值範圍內，能夠以一個數量級的誤差預測黏度等級是非常有效的。
以下是我們得到的結果，其中預測黏度為四種演算法預測結果的中位數。我們對預測的準確性印象深刻，因為預測黏度的誤差小於一個數量級，這正是我們對絕大多數數據所期望的。其次，只有極少數樣本的誤差較大。最大誤差為 3.3 個數量級，遠低於文獻中黏度模型的誤差。
另一點也很重要，在黏度值從 1 到 10 分帕秒的整個範圍內，預測精度都很好。最後一點是，對於我們應用中主要關注的玻璃成分，精確度甚至更高。
我們目前正在調查預測誤差最大的數據背後的原因。就成分而言，預測誤差似乎與某些化學元素的存在高度相關，這些元素已知對玻璃黏度有顯著影響，但在資料庫中僅存在於極少數成分中。我們也觀察到，這些異常值到最近鄰的距離明顯較高。
最後，我們也嘗試檢驗報告資料的年份是否會產生影響，因為可以想像，60 或 80 年前用於測量玻璃黏度的實驗設備可能精度較低。事實上，這些圖表顯示，對於較新的數據，預測誤差往往較小。
最後，我們觀察到這四種模型在絕對誤差分位數方面給出了非常接近的預測結果。神經網路的絕對誤差最大值顯著較小，而支持向量迴歸（SVR）的絕對誤差最大值則較小，最終得到的平均誤差也較小。由於這四種模型均有效，我們決定取其預測結果的中位數，以確保預測結果的高度穩健性。
綜上所述，我們提出了一種基於資料動態子取樣的預測方法。我們實現了四個不同的模型，這些模型都是基於從最優實驗設計（DOE）產生的相似資料子集進行訓練。該過程完全自動化，所有步驟均使用JSL編寫，並以插件形式整合到JMP Pro 18中。
該工具的預測能力已在包含約 7,500 種玻璃成分的數據集上進行了評估，結果非常準確，特別是對於感興趣的玻璃成分。
接下來，我們希望評估並可能實施一些我們認為對本應用有前景的其他預測技術。我們還將嘗試開發一個Python接口，以便將此工具與我們已用於處理玻璃化過程的其他有限元素模擬程式碼連接。
非常感謝您的關注。
謝謝。
