小样本数据挖掘...小样本回归？<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />亲爱的所有 JMP 专家，我知道这种讨论可能既愚蠢...非常愚蠢，又是一个热门问题...但我认为提出它会很好：哪些类型的线性和非线性回归当您的样本量较小（例如 50-70 条记录）并且您想要从 5-7 个预测变量（分类变量和连续变量）预测连续结果时，JMP 是否可以提供 k 折交叉验证逐步线性回归或偏最小回归有办法解决这个问题吗？ 增强树或神经网络是不是想想就很疯狂？ 我们非常欢迎并非常感谢您的回复。 尊敬的克里斯
回复：小样本数据挖掘...小样本回归？虽然这个问题很久以前就被问到了，但我想在这里插话，因为我认为讨论并没有讨论一些细节，而这些细节对于决定您是否能够获得一些有意义的信息非常重要。
1. 数据来自 DOE 吗？ 那么 50-70 个观察通常就足够有足够的自由度来检测潜在的行为。
2. 如果来自 DOE，是什么样的。 如果 DOE 能够估计您想要在回归或其他模型中查看的模型效果，这一点很重要。 如果它只是一个主效应模型，设计可以估计您将再次不确定创建的模型是否会告诉您真相
3. 如果这些只是观察，探索性数据分析可以帮助您识别潜在的模式，然后使用前面提到的不同建模策略并进行比较，这将帮助您了解是否可以信任这些模型（这些模型是讲述相同的故事还是完全不同）不同的？）
如果是后者，您可能想从能源部获得更好的了解。
4. 人们常说神经网络不适用于如此少的数据点。 最新的研究表明，通过某些策略，您将能够获得仍然可接受的结果。 然而，您永远不应该只相信一种模型。 测试不同的。 检查当您模拟实际设置的微小变化时模型的行为如何，模拟结果是否保持在置信极限内或是否严重突破。
在执行此操作之前，您应该检查数据的质量，是否存在异常值、缺失值，列是否由于一些先前已知的关系（例如 A 是 k*B 或类似关系）而相关，是否有许多重复项。 随着时间的推移，对同一事物的观察测量是否相同，是否重复测量，... 所有这些都会告诉您可以对数据做什么或不能做什么。
所以，我想说的是，你可以为所有人创建模型，但它们是否有用取决于你的问题，数据来自哪里，和它是如何测量的，并不一定取决于你有多少观察结果。
回复：小样本数据挖掘...小样本回归？这样就清楚多了。 非常非常感谢你
亲切的问候
C
回复：小样本数据挖掘...小样本回归？Would you please be so kind and elaborate a little bit more about signal and noise? (justone sentence)
Please accept my apologies but for me these two terms are pretty allegorical to my silly mind.
大多数统计模型试图确定是否存在大于误差（噪声）变异性的信号（真实关系）。 我所知道的每种建模技术都给出了信噪比的衡量标准；例如，在标准回归中，将是整体 F 检验。
没有理由不能在 50 个数据点中获得非常大的信号和非常低的噪声。 这取决于数据。
回复：小样本数据挖掘...小样本回归？谢谢PG，这有帮助。 我会看看。
回复：小样本数据挖掘...小样本回归？是的，我指的是 CART 类型的分析，在 JMP 中称为分区。 当因变量连续时，结果是回归树，否则，它是分类（或决策）树。 我认为回归样条消耗了太多的自由度，无法适用于您的数据集大小。 - PG
回复：小样本数据挖掘...小样本回归？嗨佩吉米勒
您能详细说明一下信号和噪声吗？ (只是一个句子）
请接受我的歉意，但对我来说，这两个术语对我愚蠢的头脑来说是相当寓言的。
谢谢你！
克里斯
回复：小样本数据挖掘...小样本回归？聚苯乙烯 我知道 JMP 中不提供 MARS，但 SAS 提供...所以脚本可能有帮助。
回复：小样本数据挖掘...小样本回归？首先非常感谢您的及时回复。 对此，我真的非常感激
PG统计您的意思是分类和回归树分析吗？ 大车？
或者，您认为多元自适应回归样条也适用于小样本吗？
再次非常感谢！
回复：小样本数据挖掘...小样本回归？我对如此少的数据集所做的第一件事是回归树分析。 这是探索因变量和预测变量之间关系的快速直观的方法。 前三四个节点通常是有意义的。 - PG
回复：小样本数据挖掘...小样本回归？这些程序在这些样本量下是否有效取决于信噪比。 如果您有大量信号和低噪音，您可能甚至不需要 50 条记录。 反之，低信号和高噪音，您可能会浪费时间。
