檢查多變量資料中的關係時,使用主成分分析 (PCA) 將維度減少到大約二維或三維並檢查資料之間的關係。)經常被使用。
然而,近年來, UMAP和t-SNE等方法作為降維方法引起了人們的關注。這些是非線性降維方法,即使在線性降維方法主成分分析不能很好地表示資料結構的情況下,據說也是有效的。
這些方法也是降維方法,因此您可以將多維資料降維為二維或三維,並直觀地檢查資料中的模式。
在機器學習領域,UMAP和t-SNE也廣泛用於降維目的。例如,它在圖像識別、文字分類和遺傳分析等各種應用中都很有效。
JMP Pro 有一個名為「多元嵌入」的平台,其中包括 UMAP 和 t-SNE 技術。

使用 t-SNE 進行樣本分組的範例
在本部落格中,我們使用主成分分析、UMAP 和 t-SNE 技術,使用光譜資料來降維並視覺化資料關係。屆時我們會檢查是否能夠成功分離出帶有標籤的資料。
使用的光譜數據
這次我們要用到的是橄欖油的中紅外光譜數據。 *
透過採樣收集了60種橄欖油的光譜。每個樣本中均添加了原產國資訊。我們將檢查是否可以根據該多元頻譜資料對原產國(希臘、義大利、葡萄牙、西班牙)進行分類。
在機器學習中,原產國資訊相當於“標籤”,是監督數據。下面的分析將重點放在是否可以根據標籤進行分類。

我使用“Graph Builder”按原產國繪製光譜圖。它顯示每個波數的強度,使您可以直觀地檢查每個國家光譜的特徵以及與其他國家的差異,例如特定波數的峰值、強度的大小波動等。

*資料來源:
數據:使用內核極限學習進行光譜數據分類 - Mendeley Data
使用主成分分析進行降維
首先,我們對此光譜數據執行主成分分析 (PCA),並在得分圖中可視化前兩個成分。
由於我們測量的是波數 570 處的強度,因此我們已將 570 維度減少為 2 維度。

查看分數圖,您可以看到不同的繪圖點重疊很多,表明橄欖油的原產國沒有很好地分開。主成分分析進行的降維是基於線性變換,因此如果資料是非線性分佈的,則可能無法很好地捕捉資料的結構。
使用 UMAP、t-SNE 降維
接下來,我們將對橄欖油資料執行 UMAP 和 t-SNE。
在 JMP Pro 中,選擇分析 > 多元 > 多元嵌入。
- 在啟動對話方塊中,指定一個連續列(在本例中,570 列代表波數強度)為 [Y, Column]。
- 還可以選擇降維的方法、降維後的維度等。
- 您可以在「方法」中選擇[UMAP]或[t-SNE]。預設為 [UMAP]。
- 您可以選擇降維後的維度。預設值為“2”(二維)。

顯示了使用這些操作執行 UMAP 和 t-SNE 時的圖(左下:UMAP,右下:t-SNE)。

與主成分分析得分圖的比較表明,橄欖油的原產國可以在一定程度上分開。尤其是橙色的西班牙,幾乎可以很明顯地與其他原產國區分開來。
接下來,我們將「降維後的維度」設為 3 並以 3D 形式對其進行視覺化。多元嵌入報告顯示三維圖。該圖可以透過拖曳遊標來移動,而且它的分類很好,包括三維。您可以考慮正在做什麼。

在 t-SNE 的二維圖中,很難對除橙色西班牙以外的所有顏色進行分類,但在三維圖中,可以對綠色(義大利)、紅色(希臘)和藍色(希臘)進行分類(葡萄牙)在某種程度上。
UMAP和t-SNE都是非線性降維方法,可以降低維度,使得高維空間中接近的資料點之間的關係即使在低維度也能保持。這使其成為可視化資料分組的好方法。
然而,雖然主成分分析解釋載荷圖等報告中的軸,但 UMAP 和 t-SNE 方法側重於查找數據(樣本)之間的關係、將它們分組並查找模式,因此,解釋其含義可能很困難。軸的數量。
例如,在上面的 UMAP 圖中,西班牙的大部分橙色資料繪製在右下角,但很難指定位於二維座標右下角的內容表示什麼。
UMAP 與 t-SNE 的比較
據說UMAP的運算速度比t-SNE快。據說使用 UMAP 調整參數會更容易。
事實上,在這個光譜資料範例中,當使用預設參數設定來執行 t-SNE 時,會顯示有關收斂計算的警告。如訊息中所提到的,透過放寬收斂標準(1e-8⇒1e-4)並增加最大迭代次數(1000⇒10000)來解決。

在比較 UMAP 和 t-SNE 時,一般說 UMAP 更好,但實際上最好同時嘗試 UMAP 和 t-SNE 並比較結果。然而,對於t-SNE,在處理大規模資料時,計算可能需要時間,並且在某些情況下可能需要調整參數。
by 増川直裕(JMP Japan)
Naohiro Masukawa - JMP 使用者社區