JMP 中的特征选择你好
我知道在 JMP Pro 中用于特征选择(我对未来的提取不感兴趣......)有广义回归模块。 您知道JMP(标准版)中是否也有类似的模块吗? 如果不是,与 JMP12/13 一起使用哪种最佳方法可以减少预测变量的数量,只留下最重要的预测变量?
谢谢菲利斯
回复:JMP 中的特征选择JMP 将告诉您哪个变量最能代表聚类。 它还将确定要使用的正确集群数量。
回复:JMP 中的特征选择乔丹
我们非常欢迎您的评论,而且非常有帮助。 关于聚类的最后一个问题。
这将是一种类似于主成分分析的方法,但您无需查看加载图来查看相似的变量,JMP 会自动为您对它们进行聚类。 然后,您可以选择最能代表集群的变量,甚至可以为集群创建“典型”变量。 这将帮助您避免经常在许多变量中看到的“冗余信息”。
一旦我有 n 个簇(关于如何选择这个数字的大小的一些规则..),我如何识别每个簇最具代表性的变量?
谢谢。菲利斯
回复:JMP 中的特征选择
我对你问题的回答是蓝色的。
@FR60写道:
乔丹
非常感谢您的留言。
我有一些评论要做......
您可以只使用逐步回归(经典)。
它可以操纵超过 1K 个预测变量吗?
是的。 如果您的机器上有足够的内存来处理大型问题。 我刚刚运行了一个包含 10,000 个观测值和 2,000 个预测变量的简单示例。 循序渐进效果很好。
您可以使用变量聚类。
您能给我提供有关如何通过聚类选择重要预测变量的技术的更多详细信息吗?
这将是一种类似于主成分分析的方法,但您无需查看加载图来查看相似的变量,JMP 会自动为您对它们进行聚类。 然后,您可以选择最能代表集群的变量,甚至可以为集群创建“典型”变量。 这将帮助您避免经常在许多变量中看到的“冗余信息”。
你可以使用分区。
通常,在我们的 Fab 中,我们在删除不重要的预测变量后使用它(让我们考虑一下,通常我们有超过数千个预测变量,并且数据中有很多噪声......)
使用分区的方法有很多种,但请考虑第一个分区。 该方法需要确定哪个分割包含最多信息。 这就是一个变量选择。 您还可以使用迪克·德沃克斯 (Dick DeVeaux) 称之为“摇动树”的技巧。 拆分很多很多次,然后查看变量的列贡献以确定最重要的变量。 使用这个灵活平台的方式有很多!
您可以使用 PCR(主成分回归)。
我们知道这一点,但我们丢失了有关预测变量含义的信息,因此我们宁愿不使用它。
明白了。 由于这个原因,我不太喜欢 PCR。 但是,通过仅查看重要主成分的变量载荷,您可以识别重要的原始变量。 使用这些重要的原始变量开始构建模型。 没有任何内容表明您必须坚持主要组成部分。
有基于图形的方法:正态图、帕累托图、贝叶斯图。
我不知道如何用图表进行特征选择。 对不起。
没什么可遗憾的。 这就是我们创建该类的原因。 人们常常不知道这些工具。
目前正在创建一门名为“JMP 软件:查找重要预测变量”的新课程,该课程使用 JMP 和 JMP Pro 来解决此问题并涵盖这些技术。 这两天的课程可能会从四月份开始在客户所在地提供。
这是一个好消息。 我希望意大利也能做到这一点。 如果是的话我肯定会跟随他们。
我们在美国 SAS 创建的所有课程也可供国际 SAS 办事处使用。 如果他们没有了解该主题的讲师,他们可以从另一个地区请求具有该技能的讲师。 只需向您当地的 SAS 办事处询问培训即可!
参考值。菲利斯
我希望我的评论对您有所帮助。
担
回复:JMP 中的特征选择乔丹
非常感谢您的留言。
我有一些评论要做......
您可以只使用逐步回归(经典)。
它可以操纵超过 1K 个预测变量吗?
您可以使用变量聚类。
您能给我提供有关如何通过聚类选择重要预测变量的技术的更多详细信息吗?
你可以使用分区。
通常,在我们的 Fab 中,我们在删除不重要的预测变量后使用它(让我们考虑一下,通常我们有超过数千个预测变量,并且数据中有很多噪声......)
您可以使用 PCR(主成分回归)。
我们知道这一点,但我们丢失了有关预测变量含义的信息,因此我们宁愿不使用它。
有基于图形的方法:正态图、帕累托图、贝叶斯图。
我不知道如何用图表进行特征选择。 对不起。
目前正在创建一门名为“JMP 软件:查找重要预测变量”的新课程,该课程使用 JMP 和 JMP Pro 来解决此问题并涵盖这些技术。 这两天的课程可能会从四月份开始在客户所在地提供。
这是一个好消息。 我希望意大利也能做到这一点。 如果是的话我肯定会跟随他们。
参考值。菲利斯
回复:JMP 中的特征选择伟大的
我用过。 很不错。
菲利斯
回复:JMP 中的特征选择除了上面我的同事提出的所有很好的建议之外,如果您的变量数量相对较少,我还会查看多元方法 -> 多元 -> 散点图矩阵平台。 这将为您提供一个很好的变量之间可能存在的成对相关性矩阵,这对于尝试发现预测变量集中可能存在的相关性非常有价值。 这些相关性不适用于某些回归程序,例如普通最小二乘回归(在 JMP 中称为标准最小二乘)。 如果您沿着标准最小二乘路径走,请确保检查参数估计表中的方差膨胀因子,以了解可能存在的预测变量相关性的指示。
回复:JMP 中的特征选择您从之前的回复中得到了一些不错的选择(我将重复其中一些),但还有其他选择。
您可以只使用逐步回归(经典)。 您可以使用所有子集回归。 您可以使用变量聚类。 你可以使用分区。 你可以使用PLS。 您可以使用 PCR(主成分回归)。 有基于图形的方法:正态图、帕累托图、贝叶斯图。 您可以使用预测筛选等。
目前正在创建一门名为“JMP 软件:查找重要预测变量”的新课程,该课程使用 JMP 和 JMP Pro 来解决此问题并涵盖这些技术。 这两天的课程可能会从四月份开始在客户所在地提供。 该课程将于今年 10 月在圣路易斯举行的 Discovery 会议上首次作为公开课程提供。
回复:JMP 中的特征选择嗨菲利斯,
JMP 中还有一种称为“预测因子筛选”的功能。 这是有关该选项的链接。
http://www.jmp.com/support/help/13/Predictor_Screening.shtml
这有助于减少可能的预测变量的数量,并且已在 JMP 中提供。
回复:JMP 中的特征选择你好菲利斯,
常规 JMP 本身不存在广义回归。 不过,您确实有一些选择。 如果您有高度相关的因素/输入,您可以使用偏最小二乘法或主成分分析。 另一种选择是使用分区分析/决策树。 请务必使用保留集来检查您构建的任何模型的预测能力。 对于分区分析,请查看顶部的红色热点下方,然后选择“列贡献”以查看哪些因素最重要。
希望这可以帮助。
账单