检查多变量数据中的关系时,使用主成分分析 (PCA) 将维度减少到大约二维或三维并检查数据之间的关系。)经常被使用。
然而,近年来, UMAP和t-SNE等方法作为降维方法引起了人们的关注。这些是非线性降维方法,即使在无法使用主成分分析(线性降维方法)很好地表达数据结构的情况下,据说也是有效的。
这些方法也是降维方法,因此您可以将多维数据降维为二维或三维,并直观地检查数据中的模式。
在机器学习领域,UMAP和t-SNE也广泛用于降维目的。例如,它可用于图像识别、文本分类和遗传分析等各种应用。
就像这样,JMP Pro有一个名为“多元嵌入”的平台,并配备了UMAP和t-SNE技术。

使用 t-SNE 进行样本分组的示例
在本博客中,我们使用主成分分析、UMAP 和 t-SNE 技术,使用光谱数据来降维并可视化数据关系。届时我们会检查是否能够成功分离出带有标签的数据。
使用的光谱数据
这次我们要用到的是橄榄油的中红外光谱数据。 *
通过采样收集了60种橄榄油的光谱。每个样本中都添加了国家/地区信息。我们将检查是否可以根据该多元频谱数据对原产国(希腊、意大利、葡萄牙、西班牙)进行分类。
在机器学习中,原产国信息相当于“标签”,是监督数据。下面的分析将重点关注是否可以根据标签进行分类。

我使用“Graph Builder”按原产国绘制光谱图。它显示每个波数的强度,并允许您直观地检查每个国家光谱的特征以及与其他国家的差异,例如特定波数的峰值以及强度波动较大或较小的峰值。

*数据源:
数据来源:使用内核极限学习进行光谱数据分类 - Mendeley 数据
使用主成分分析进行降维
首先,我们对此光谱数据执行主成分分析 (PCA),并在得分图中可视化前两个成分。
由于我们测量的是波数 570 处的强度,因此我们已将 570 维度减少到 2 维度。

查看分数图,您可以看到不同的绘图点重叠很多,表明橄榄油的原产国没有很好地分开。主成分分析进行的降维是基于线性变换,因此如果数据是非线性分布的,则可能无法很好地捕捉数据的结构。
使用 UMAP、t-SNE 降维
接下来,我们将对橄榄油数据执行 UMAP 和 t-SNE。
在 JMP Pro 中,选择分析 > 多元 > 多元嵌入。
- 在启动对话框中,指定一个连续列(在本例中,570 列代表波数强度)作为 [Y, Column]。
- 还可以选择降维的方法、降维后的维度等。
- 您可以在“方法”中选择[UMAP]或[t-SNE]。默认为 [UMAP]。
- 您可以选择降维后的维度。默认值为“2”(二维)。

当使用这些操作执行 UMAP 和 t-SNE 时,将显示这些图(左下:UMAP,右下:t-SNE)。

与主成分分析得分图的比较表明,橄榄油的原产国可以在一定程度上分开。尤其是橙色的西班牙,几乎可以很明显地与其他原产国区分开来。
接下来,我们将“降维后的维度”设置为 3 并以 3D 形式对其进行可视化。多元嵌入报告显示三维图。该图可以通过拖动光标来移动,并且它的分类很好,包括三维。您可以考虑正在做什么。

在 t-SNE 的二维图中,无法对橙色(西班牙)以外的所有颜色进行分类,但在三维图中,可以对绿色(意大利)、红色(希腊)、和蓝色(葡萄牙)在某种程度上。
UMAP和t-SNE都是非线性降维方法,可以降低维度,使得高维空间中接近的数据点之间的关系即使在低维下也能保持。这使其成为可视化数据分组的好方法。
然而,虽然主成分分析解释载荷图等报告中的轴,但 UMAP 和 t-SNE 方法侧重于查找数据(样本)之间的关系、将它们分组并查找模式,因此,解释其含义可能很困难。轴的数量。
例如,在上面的 UMAP 图中,西班牙的大部分橙色数据绘制在右下角,但很难指定位于二维坐标右下角的内容表示什么。
UMAP 与 t-SNE 的比较
据说UMAP的计算速度比t-SNE更快。据说使用 UMAP 调整参数更容易。
事实上,在这个光谱数据示例中,当使用默认参数设置运行 t-SNE 时,会显示有关收敛计算的警告。正如消息中提到的,通过放宽收敛标准(1e-8⇒1e-4)并增加最大迭代次数(1000⇒10000)来解决这个问题。

在比较 UMAP 和 t-SNE 时,一般说 UMAP 更好,但实际上最好同时尝试 UMAP 和 t-SNE 并比较结果。然而,对于t-SNE来说,在处理大规模数据时,计算可能需要时间,并且在某些情况下可能需要调整参数。
by 増川 直裕(JMP Japan)
Naohiro Masukawa - JMP 用户社区