Logistic Regression and Model Reduction - 模型拟合结果之间的差异我正在使用广义回归平台与二项分布适合逻辑模型,然后做选型(例如,最佳子集 - AIC)以降低模型的复杂性。
一旦模型减少,我仅使用有效条款重新启动它,使用完全相同的平台——具有二项分布的广义回归,这样我应该得到与减少的模型完全相同的拟合模型,具有相同的系数和预测。
然而,当我比较这两个分析器时,我得到的预测值略有不同,并且极其不同的预测区间.
你能解释为什么会这样吗?
另外,我应该相信这两种配合中的哪一种?
谢谢你!
回复:逻辑回归和模型缩减 - 模型拟合结果之间的差异嗨米科尔,
造成这种差异的原因是这两个模型对参数估计的协方差使用不同的估计量(这会影响标准误差)。 每当我们进行变量选择(Lasso、FS 等)时,它都会使用三明治矩阵,如 Zou 2006 和 Huber 和 Ronchetti 2009 中所述:
邹 H. (2006)。 “自适应套索及其 Oracle 属性。”美国统计学会杂志 101:1418–1429。
Huber, PJ 和 Ronchetti, EM (2009)。 稳健的统计数据。 第二版。约翰·威利父子公司。
每当我们在逻辑/二项式拟合中进行 MLE 时,它都会使用通常的 Fisher 信息矩阵。 对于您使用逐步回归然后重新拟合的简化模型,我们认为使用次要结果(具有更小的置信区间)是可以的。
我希望这有帮助!
谢谢,
亚当·莫里斯
JMP 技术支持