模拟属于某个群体的概率的最佳方法和简单逻辑回归的替代方法你好
我需要一点帮助来选择正确的方法来解决我的问题。
我有一个连续变量X,它可以取[-45 0]之间的任意值。
我有 12 个不同组的 X 值数据集,请参见下面的直方图。
我正在尝试建立两个模型:
1)对于给定的新的X值,该模型可以给出属于每个组的概率,并给出最有可能的组。
2)一个模型,对于假设属于给定组的X的新条目,给出该条目不属于该组的概率。
我最初认为逻辑回归是最好的方法,至少对于 1) 来说是这样,但对于 2) 我不确定。特别是对于像 K 这样分布非常窄的群体。
提前致谢!

高级统计建模基础数据分析与建模预测模型和机器学习回复:用于模拟属于某个群体的概率的最佳方法和简单逻辑回归的替代方法根据数据集的大小,您可以查看决策树方法。特别是 Bootstrap Forest(文献中称为随机森林)。
回复:用于模拟属于某个群体的概率的最佳方法和简单逻辑回归的替代方法谢谢@MikeD_Anderson 。我会看看的!
我有大约 800 个条目,但有些组的观察结果少于 20 个。
但是我只能访问 JMP(不是 Pro),所以我仍然对具有连续预测公式的其他替代方案感兴趣。ANN 有用吗?
谢谢
回复:用于模拟属于某个群体的概率的最佳方法和简单逻辑回归的替代方法你好@KarlA026 。你可能也想尝试一下判别分析。
https://www.jmp.com/support/help/en/18.0/index.shtml#page/jmp/overview-of-the-discriminant-platform.shtml#
回复:用于模拟属于某个群体的概率的最佳方法和简单逻辑回归的替代方法谢谢@MRB3855 。我用ANN得到了更好的结果。但当我只有一个(连续)预测器时,我仍然忍不住想到我正在使用复杂的工具。
对于方法 2)如果我将分布模型拟合到一个组(正态或其他)并使用模型公式作为预测公式,结果会怎样?
回复:用于模拟属于某个群体的概率的最佳方法和简单逻辑回归的替代方法你好@KarlA026你说的 ANN 比 LR“更好”是什么意思?
并且,对于 (2),您正在将随机性与 (1) 颠倒过来。在 (1) 中,组是随机的。在 (2) 中,按照您的表述,X 是随机的。这就是我建议您考虑 DA 的原因。
我不确定您所说的“将分布模型拟合到一个组(正态或其他)并使用模型公式作为预测公式”是什么意思。您能解释一下吗?
回复:用于模拟属于某个群体的概率的最佳方法和简单逻辑回归的替代方法感谢@MRB3855和@MikeD_Anderson
对于 ANN,我的意思是,当使用 X 预测组时,我得到的误分类结果比使用 LDA 得到的少。这是因为 LDA 只给出了与 logit 类似的模型,而不允许非线性模型(请参阅组 K 示例中附图中的剖析器差异)。
如您所见,ANN 模型的刻画器接近 K 组的分布。我建议的拟合分布可能不相关。只是当我尝试将正态分布模型拟合到 K 组时,我能够将模型公式保存为新列,并将其用作任何新条目的指示列,以评估该新条目属于 K 组的概率。
我只是想估计,对于给定的固定 X 值,该点属于给定组的概率。
希望我现在清楚了!
谢谢!


回复:用于模拟属于某个群体的概率的最佳方法和简单逻辑回归的替代方法@MRB3855 , @MikeD_Anderson ,
有什么想法吗?提前致谢!
回复:用于模拟属于某个群体的概率的最佳方法和简单逻辑回归的替代方法嗨@KarlA026 :很遗憾,我不确定我是否有很好的解决方案。如果我上面的评论没有被注意到,我将在下面详细说明。
在上面几篇帖子中,我说过:
"并且,对于 (2),您正在翻转 (1) 中的随机性。在 (1) 中,组是随机的。在 (2) 中,按照您的表述,X 是随机的。”。
(1)在 Logistic 回归或 ANN 中,您要估计概率(给定某个 X 值,属于某个组),为简便起见,可以将其写为 P(G|X),读作“给定 X,属于某个组的概率”。因此,此处,组是随机分量。X 是固定的(即选定的)。因此,对于给定的 X,您可以估计属于每个组的概率。
(2) 你“只是想估计”的内容非常不同。你陈述问题的方式是,你要求 Prob(X 属于一个组,给定一个组) = Prob(X|G) 读作“X 属于给定组的概率”。这里,X 是随机的,组是固定的。那么,X 属于给定组的概率是多少。在这里,你选择组,并询问 X 属于该组的概率是多少。
P(G|X) 与 P(X|G) 非常不同,就像 Prob(人 A 患有该疾病,假设人 A 的检测结果呈阳性) 与 Prob(人 A 患有该疾病,假设人 A 患有该疾病) 非常不同一样。
总的来说:看看你上面的图,如果你选择一个 x 值,比如 -30,然后画一条直线。你可以看到,对于 M 组,曲线下方 -30 左侧的面积百分比约为 50%。对于 D 组,约为 20%,等等。当你说“将分布模型拟合到一个组(正态或其他)并使用模型公式作为预测公式”时,你是不是在想这件事?
回复:用于模拟属于某个群体的概率的最佳方法和简单逻辑回归的替代方法@MRB3855感谢您的澄清。
我想我曾经考虑过这一点,但我所制定的方案并不是很严格。
无论如何,您建议评估/建模 P(G|X) 或 P(X|G) 吗?
确实,您在最后一段中所描述的似乎与我所想的很接近。回复:用于模拟属于某个群体的概率的最佳方法和简单逻辑回归的替代方法你好@KarlA026 :我不太清楚。为什么你需要“估计给定固定 X 值时该点属于给定组的概率”?即你如何观察 X?X 的精确值是否不可预测(可能是某些过程的输出,这些过程具有一些不受控制的变异源)或者你可以随意选择 X?无论模型是什么,这个模型如何在实践中使用?你能提供一些细节吗?
回复:用于模拟属于某个群体的概率的最佳方法和简单逻辑回归的替代方法谢谢@MRB3855 !
我应该从这个开始。X 是原材料的固有材料属性,可以通过特定分析获得。这些组是这种原材料的不同供应商。
两种场景对应的情况为:
1) 我们有一种供应商未知的材料,我们需要根据X来评估最可能的供应商(组)。
2) 原材料供应商提供样品,我们想评估该材料实际上来自该供应商的可能性,或者相反,该材料来自其他地方的可能性。所有这些都基于图中所示参考数据库中该样品的 X 值。
希望这可以帮助!回复:用于模拟属于某个群体的概率的最佳方法和简单逻辑回归的替代方法嗨@KarlA026 :是的,这很有帮助。谢谢!
据我理解,这个想法是建立一个基于图中数据的概率模型。然后可以使用该模型分别估计该样品来自每个供应商的概率(基于材料属性 X 的观察值)。
案例 1(来自未知供应商的材料):您测量 X。然后,一旦获得了 X 的观测值,只需应用您已经构建的模型(逻辑/ANN/其他)即可预测最有可能的供应商(概率最高的供应商)。
案例 2(材料来自已知供应商):如果您知道供应商并且知道 X,则该材料来自该供应商(或不来自该供应商)的概率无关紧要(尽管可以计算,与上述案例 1 相同)。以下是一个例子。假设您看到外面正在下雨。但是,一小时前您查看了天气预报,它说今天下雨的概率是 10%。从二元预测的角度来看,您真正可以说的是模型弄错了;但是,从概率的角度来看,模型并没有错(它没有说下雨的可能性是 0%)。但无论如何,下雨了……概率并不在其中。因此,一旦某事发生或已知,就不可能有与之相关的概率。在您的例子中,一旦您知道供应商,就不可能有与之相关的概率……尽管您可以计算它(就像上述案例 1 一样)以查看模型的预测效果。因此,如果模型预测供应商 M,但您知道它实际上来自供应商 F……从预测的角度来看,您只能说模型错了。话虽如此,您是否有理由不信任供应商?例如,您是否有可能从供应商 D 获得实际上来自供应商 B 的样品?如果是这样,那就是另一种情况,有一个简单的解决方案(不再使用供应商 D!)。
回复:用于模拟属于某个群体的概率的最佳方法和简单逻辑回归的替代方法@MRB3855非常感谢!
回答你的问题。是的,在我们的场景中,我们假设一些原材料可能来自上述供应商以外的其他供应商(或可能与其他来源混合)。这里的目的是获得某种基于 X 的认证。
另外,由于这里只有一个预测变量,ANN 是一种可接受的方法吗?我一直以为这仅适用于多变量问题。
回复:用于模拟属于某个群体的概率的最佳方法和简单逻辑回归的替代方法嗨@KarlA026 :啊,我明白了。祝你好运!
当然,如果 X = -5 并且“来自供应商 D”,那么根据您上面的图表,我会非常怀疑。但是,如果 X = -24 呢?那么也许有几家供应商是可信的,但几乎没有能力准确区分它们。我认为仅凭 X 通常不是一个好的鉴别器。也许还有其他材料特性?
当然,ANN 没问题;从纯粹的统计角度来看,我认为没有理由不能使用 1 个预测因子。不过,正如我上面所说,你测量的 X 通常不足以区分各个群体。