主成分回归您好 - 我在 JMP 中使用 PCA 已经大约四年了。没什么特别的,但我对很多功能感到非常满意。我一直使用电脑作为能源部的因素,认为我是个聪明人。瞧,我上周偶然发现了一个关于主成分回归的维基百科页面。哈。
不管怎样,我看了又看,在 JMP for PCR(或与 DoE 的集成)中没有看到任何参考,更不用说功能了。我是否遗漏了某些内容?JMP 中是否存在此功能(即使仅以 JSL 形式存在)?如果没有,有人有这方面的经验吗?您是否会在 PC 上使用倒置相关矩阵,基本上是 PC 公式列的逆矩阵?
谢谢!高级统计建模实验设计视窗回复:主成分回归你好,
我也尝试过同样的想法,但被告知这在这个板上是无稽之谈。不过,可能有一种劳动密集型的方式来获得你想要的东西。
- 根据数据集计算主成分(多元方法 > 主成分)
- 在报告中,转到保存列 > 保存主成分值。您保存的 PC 数量取决于您的数据,我倾向于使用捕获至少 80% 数据变化的 PC
- 然后,将 PC 视为模型中的任何变量(例如,响应筛选、拟合模型……)
注意:此方法直接受到 R 中工作流的启发,如本页( 链接)所述
最好的,
TS
回复:主成分回归谢谢回复!那么人们对PCR有什么不满呢?这是一个基本的统计问题,还是其他什么问题?就像我正在使用的纸张需要 700 种溶剂,涵盖 100 种特性。溶剂空间似乎不太可能有 100 个真正独立的基本方面,而 PCR 似乎是将其减少到可管理大小的合理方法。我确信还有很多其他地方也有沸石、矿物质等。而这只是化学物质。
回复:主成分回归我想我还要问的是,将您得到的回归模型反转为原始列空间的最佳方法是什么?我想完全公开:我在实验设计中使用这些 PC 作为因子。您是根据 PC 建立模型并对其应用某种逆相关矩阵,还是只是对所有因子进行某种拟合,看看哪种拟合效果最好,从而得到更基于物理的模型?回复:主成分回归偏最小二乘回归可能是一个更简单的解决方案吗?
回复:主成分回归我不确定人们是否对 PCR 有“不满”,但它确实存在一些局限性。最终,您必须确定自己想从建模工作中得到什么。
PCR 是一种有偏回归技术。这不一定是坏事,但您的模型只能起到预测作用。它并不像设计好的实验那样,旨在提供任何关于导致事情发生的原因的见解。它确实只是建立在相关性之上,并没有声称存在因果关系。
当您按照@Thierry_S 的建议对 X 执行 PCA 时,仅保留前几个主成分仅考虑 X,而不考虑目标或响应变量 Y。因此,您可能无法获得最佳模型。最后一个主成分可能具有最佳的目标预测能力,因此您应该保留所有主成分来构建 PCR 模型。一旦您用所有 PC 拟合模型,您就可以删除不重要的 PC 以获得最终模型。
您的上一篇文章提到了 PCR 的主要问题:如何转换回原始 X 空间。有几种可能的方法。一种方法是保留每个重要 PC 中负载最高的因子。第二种方法是从每个重要 PC 中删除负载最低的因子。还有其他可能性。您选择哪种方法取决于您想从模型中得到什么。
回复:主成分回归嗯。我想我理解你的担忧@Dan_Obermiller 。
好的,这是一个想法。这是在深入研究我不太熟悉的东西,所以如果这很荒谬,请告诉我。即使使用 PC 的实验设计会生成一个以 PC 为单位的模型,但 y 向量仍然是实数单位。因此,是否可以按照@Thierry_S 的建议生成 PC。这样,您就可以生成一个设计,至少尝试选择沿着最大方差方向的点。将它们作为协变量加载到 DoE 平台中。然后,我只是浏览了@Victor_G分享的 PLS 平台,也许不是根据 PC 建立模型,而是对最终数据针对原始数据集进行 PLS 回归。
这样,您仅使用 PC 来确保在设计中最大化利用原始列空间,但您使用的回归模型优先考虑原始的、物理接地的列空间。
这合理吗?我首先担心的是,这只会将最优标准置于众所周知的幕后,但据我所知,PLS 旨在处理高度相关的变量,因此对最优标准的需要减少了?可能还有其他问题。
我只是一名卑微的化学工程师,所以如果我在这里没有很好地处理统计数据,请告诉我。回复:主成分回归另外, @Victor_G ,我刚看到你的标语里有欧莱雅。我实际上刚刚申请了欧莱雅。不知道我是否会得到它,但我担心因为换了工作而失去 JMP Pro。很高兴知道如果我在那里找到工作,我不会失去访问权限!回复:主成分回归@ehchandlerjr对于设计创作,我看到两个选项:
- 使用 PC 作为设计中的因素(在预测性方面存在@丹_奥伯米勒提到的风险,但您可能拥有良好的实验空间覆盖范围),
- 直接使用因子作为协变量,因为根据您拥有的因子,您可能无法独立更改水平:例如,对于化学特性,您无法完全独立地更改一组分子的分子量、拓扑表面积、碳链长度。准备一个包含所有可能因子组合的候选集,并使用这些因子作为协变量,可以帮助保持相同的原始输入,从而能够很好地覆盖您的实验空间,并直接使用这些因子对您的响应进行建模(通过 PLS 或其他模型)。更多信息请见: 实验设计中的协变量是什么?
开发人员教程 - 设计实验时有效处理协变量 - JMP 用户社区
祝欧莱雅好运,请及时通知我:)
最好的,
回复:主成分回归也许我对实验的定义和你的不一样?我想我的实际问题是:你在实验中究竟操纵了什么?我认为PC不一定能直接转化为一个因子,甚至一组可以具体且独立地操纵的因子?
你当然可以对这些进行回归分析,但我不确定这算不算实验?我的意思是,如果只有协变量,那就不是实验,而是回归。通常实验会包含被认为是固定效应的因素。协变量是随机效应。两者结合起来就形成了一个混合模型。在混合模型中,你可以考虑的随机变量的数量通常有限。