用于功能选择的最佳 JMP 平台是什么?我有 1000 多列描述蛋白质(分类)的结构特性(数字、连续),我想用这些来比较不同的蛋白质。 这些属性显示出多重共线性。 哪个 JMP 平台最适合选择相关特性、比较蛋白质并确定哪些特性使蛋白质从其他蛋白质中脱颖而出? 我尝试了聚类变量和预测筛选平台,然后应用 K 均值对蛋白质进行聚类。 到目前为止,我已经获得了很好的见解,但需要 JMP 专家的建议。
高级统计建模回复:用于功能选择的最佳 JMP 平台是什么?你好@jlmbs ,
很难判断是否有一种最适合您的用例的方法,因为它可能取决于几个参数:
- 您的目标:您对预测性(通过结构特性预测蛋白质特性,如 QSPR(定量结构特性关系)模型)更感兴趣还是对可解释性(例如对相似的蛋白质进行分组/聚类以更好地理解某些结构/特性相似性)更感兴趣?
- 数据集特征:缺失值、异常值、多重共线性程度...... :根据这些数据集特征,某些方法可能比其他方法更合适。
- 建模类型(与您的目标相关):有些模型具有“内置”特征选择(例如随机森林、广义回归中的 LASSO/弹性网络...),有些模型更适合可解释性/可解释性(当查看时在基于树的模型中,决策树和随机森林对于可解释性很有趣,而提升树更难解释,但可能具有非常好的预测性能),并且模型在面对多重共线性时表现不同(当存在多重共线性时,普通最小二乘法完全不合适)多重共线性,而在存在大量高度相关的解释变量的情况下,偏最小二乘可以轻松处理多重共线性,这在化学/化学信息学用例中经常出现)。
还有其他参数可能会影响模型的选择,例如预期的“预测概况”或模型的复杂性(可能与前面提到的前面的点相关并受到领域专业知识的影响):某些方法(例如基于树的方法)将创建具有“步骤”的预测模型,而其他人将创建具有曲率的“平滑”预测模型/配置文件(神经网络、支持向量机等),有些人可能会在输入和输出之间创建线性和直接关系(PLS) ,一些其他回归模型,...)。
正如您所看到的,有很多选项(有些选项可能取决于您使用的是 JMP 还是 JMP Pro)。
在直接进行分析之前,我会可视化化学描述符与响应之间的相关性,因为这可以指示相关变量和对您的分析有影响的输入(分析 -> 多变量方法中的平台“多变量”)。
您还可以花一些时间检查缺失值和异常值,并检查基线模型上的 VIF 分数(不用于预测/解释性能,而只是为了访问 VIF 分数的计算,以更好地了解您所拥有的多重共线性的程度)在你的数据集中)。
然后,需要考虑一些选项:
- JMP:
- 第一种方法可能是进行主成分分析 (PCA),然后尝试使用这些主成分对默认响应进行建模(或尝试使用主成分进行聚类方法)。 这种方法的缺点是,它会让您失去一些关于哪些因素影响默认值的可解释性,因为它们将合并在 PCA 变量中。
- 另一种选择是尝试偏最小二乘法 (PLS),当您处理大量相关变量和很少的观测值时,这是一种非常有效的方法。 例如,它用于光谱分析(化学计量学),但也用于一些 QSPR 模型(化学信息学),其中您的观察很少,但有大量输入数据(例如每个波长的透射率/强度或许多高度相关的化学/分子)描述符)。
- 预测因子筛选也是一个很好的工具,可以概述哪些因素可能对响应影响最大,并“本地”处理多重共线性(因为背后的模型是随机森林)。
- JMP专业版:
- 您可以尝试“随机森林”,而不是预测器筛选,在这里您将获得有关模型的更多信息以及保存公式的可能性。 由于 RF 对每棵树使用特征装袋,因此您可以确信,即使在多重共线性和参数多于观测值的情况下,每个参数也将具有相同的在树中被选择的概率,因此您可以很好地了解哪些因素影响默认值。
- 您还可以使用 Lasso、Ridge 或 Elastic Net 等惩罚估计方法查看广义回归模型。
这些将是我尝试的第一个模型。
在聚类阶段,检查是否有:
- “contextual”/多维异常值:在所有维度上都不是异常值的点,对于其 K-Nearest Neigbors,马哈拉诺比斯/折刀距离或 PCA 可能是一种有趣的方法。
- 集体离群值,K 均值可能有用,但您可以将获得的结果与高斯混合,因为它在簇的形状方面可能更加“灵活”(不一定像 K 均值那样呈球形)。
希望这个(长)答案能帮助你,