为什么在Std Least Squares个性下的AICc和BIC值与混合模型之一下的AICc和BIC值不同?如果我使用完全相同的数据和混合模型,则将获得不同的AICc和BIC值,具体取决于我使用的是标准最小二乘(SLS)还是混合模型。对于SLS案例,是否存在简化这些标准的公式?如果是这样,那是什么?广义回归人格是什么情况?
回复:为什么在标准最小二乘法下的AICc和BIC值与在混合模型下的值不同?JMP中的时间序列和混合模型平台没有使用相同的估计算法。ARIMA运行初始化步骤以启动卡尔曼滤波器,而混合模型则不执行。但是,差异很小并且可以忽略不计。
感谢您的提问。
回复:为什么在标准最小二乘法下的AICc和BIC值与在混合模型下的值不同?你好 @phersh 和 jian ,
附加到此消息后,您将找到一个模拟的数据集,我将其汇总以说明我的先前观点,并显示了模拟公式。
响应是“ y”,在t(时间)内观察到。没有固定的效果,只是拦截模型。保存的脚本显示(1)t与y的关系图;(2)ARIMA解;(3)具有AR(1)协方差的混合模型解决方案;(3)具有随机效应的混合模型解决方案;(4)具有AR的混合模型解决方案(1)协方差和随机效应。根据我模拟数据的方式,解决方案(4)是正确的,而实际上是AICc和BIC最低的解决方案。
这是为了表明我在上一篇文章中的意思,如果我想比较具有相同固定效果规范的不同协方差结构(此处没有,只是截取),我被迫使用混合模型个性(即 ML)。此外,AR(1)时间序列解决方案(也包括ML)不会输出与混合模型AR(1)解决方案中发现的相同的AICc / BIC / -2 LogLikelihood值-尽管我注意到它们的差异往往随着数据大小而消失增长,此处未显示。

回复:为什么在标准最小二乘法下的AICc和BIC值与在混合模型下的值不同? @fdottaviano 好消息!您可以在混合模型平台中比较不同的随机效果规范。
再次感谢 jian ,
您可以使用混合模型中的AICc或BIC将不同的随机效果规范与相同或不同的固定效果集进行比较。
至于重复测量中协变量结构的规范,我不知道您是否可以使用AIC或BIC将其与混合模型中的随机效应模型进行比较。 您有一个用例,您想将它们进行比较吗?我上面描述的比较技术可以用于您创建的任何模型。
jian 我们试图强调的是,即使具有相同的协方差结构(随机效应规范等同于CS结构),对于具有不同固定效果集的模型,SLS使用的REML也会有所不同。但是我想这会引起混乱:
“关键的区别在于,在REML LL中有一个惩罚项,(1/2)log | X`VinvX |,其中涉及模型中的固定效应X。因此,当两个模型的固定效应部分不同时(例如,主效应与主效应+具有相同协方差结构的相互作用),REML LL(即AICc和BIC)将不同。这使得模型比较无效。”
回复:为什么在标准最小二乘法下的AICc和BIC值与在混合模型下的值不同? @fdottaviano ,
另一个大问题。
将ML与SLS或所有不同类型的固定效应和随机效应的模型进行比较的一种方法是从模型的保存列和预测公式下保存预测公式。 然后使用分析菜单/预测建模下的模型比较平台。 由于不同的建模平台对日志似然性的计算方式不同,因此不会为您提供AICc或BIC。 缺少AICc或BIC的另一个原因是允许将基于树的模型与线性建模进行比较。 模型比较将为您提供RSquare,RASE,AAE。 它还将允许您比较每个模型的残差
仅在JMP Pro中可用。
回复:为什么在标准最小二乘法下的AICc和BIC值与在混合模型下的值不同?谢谢 @phersh ,
让我看看我是否正确。
我了解到,“ SLS”和“广义回归”个性都使用REML,而“混合模型”个性使用ML。
由于广义回归只能运行固定效应模型,因此不存在使用AICc或BIC术语进行无效比较的风险,因为它们都由固定效应组成。
当您想要混合模型(固定+随机效果)时,就个性而言,您有两种选择:SLS和混合模型。
如果我使用SLS,则可以比较模型-用AICc或BIC术语- 具有不同的随机效果规范-例如,两个随机效果与一个随机效果与无随机效果-提供的所有模型都具有相同的固定效果规范。
如果使用混合模型,则可以使用AICc或BIC术语比较具有不同固定效果规范的模型-例如,响应面与主面影响 +互动与主要效果-仅提供所有模型具有相同的随机效果规格。
要了解我的SAS PROC MIXED培训材料如何适合JMP,我们应该首先从完整的固定效果规范入手,然后使用REML(即使用SLS个性)测试不同的随机效果规范。一旦我们选择了最佳的随机效果规范(例如最低的AICc或BIC),我们便使用ML(即使用混合模型个性)测试不同的固定效果规范。一旦我们选择了最佳的固定效果规范(例如最低的AICc或BIC),我们就会回到SLS个性,并估计包含最佳固定和随机规范的最终模型。到现在为止还挺好。
但是,如果我不确定具有给定固定效果规范和不同协方差结构的两个模型(例如随机效果与空间),该怎么办协方差?在JMP中,我只能使用混合模型个性来适应空间模型。因此,只能通过ML拟合空间模型,这迫使我使用相同的混合模型个性以随机效果拟合模型,因此它们都可以采用相同的方法拟合:ML。现在,如果我想选择基于AICc或BIC的一个,那不是无效的吗?在这种情况下,我该如何比较苹果和苹果?
回复:为什么在标准最小二乘法下的AICc和BIC值与在混合模型下的值不同?谢谢 jian 对此的答案。 首先,真的是一个好问题。 这来自使用不同对数可能性的不同建模平台。
混合模型和SLS使用的具有随机效果的ML LL和REML LL如下所示 jian 从SAS文档中捕获了它们 https://support.sas.com/documentation/cdl/zh-CN/statug/63962/HTML/default/viewer.htm#statug_mixed_sect025.htm )

关键区别在于REML LL中有一个惩罚项, (1/2)日志| X`VinvX | ,其中涉及模型中的固定效果X。因此,当两个模型的固定效应部分不同时(例如,主效应与主效应+具有相同协方差结构的相互作用),REML LL(即AICc和BIC)将不同。这使得模型比较无效。
这是JMP决定使用ML LL而不是REML的基本原理。换句话说,在混合模型个性中,您可以使用AIC或BIC比较具有不同规格固定效果的不同模型。 (我说JMP的决定是因为SAS Proc Mixed使用REML作为默认估算方法,但提供了ML作为选择:cara_que_sonríe_con_ojos_sonrientes:)
补充说明:混合模型的“拟合统计”报告中的“ -2剩余对数似然”遵循REML LL(即包括惩罚项),并与SLS的REML方差分量估计中报告的-2对数似然相匹配。
对于广义回归平台,我们目前不支持随机效应,因此在这种情况下无济于事。
GenReg具有许多不同的技术,例如套索和弹性网,它们允许一步进行变量选择和模型拟合。 有相关因素时,岭回归非常有用。 这是一个不错的概述。
https://www.jmp.com/support/help/zh-cn/15.1/?os=win&source=application#page/jmp/overview-of-the-generalized-regression-personality.shtml