Pourquoi les valeurs AICc et BIC sous la personnalité Std Least Squares diffèrent de celles sous le modèle mixte?Si j'utilise exactement les mêmes données et le même modèle mixte, j'obtiens des valeurs AICc et BIC différentes selon que j'utilise les personnalités Std Least Squares (SLS) ou Mixed Model. Existe-t-il une simplification de la formule de ces critères pour le cas SLS? Si oui, c'est quoi? Et quel est le cas pour la personnalité de la régression généralisée?
Re: Pourquoi les valeurs AICc et BIC sous la personnalité Std Least Squares diffèrent-elles de celles sous le modèle mixte?Les plates-formes de séries temporelles et de modèles mixtes dans JMP n'utilisent pas les mêmes algorithmes d'estimation. ARIMA exécute une étape d'initialisation pour démarrer le filtre de Kalman, contrairement au modèle mixte. Cependant, la différence est faible et négligeable.
Merci pour vos questions.
Re: Pourquoi les valeurs AICc et BIC sous la personnalité Std Least Squares diffèrent-elles de celles sous le modèle mixte?salut @phersh et @jiancao ,
Attaché à ce message, vous trouverez un ensemble de données simulées que j'ai rassemblé pour illustrer mon point précédent, les formules pour la simulation sont affichées.
La réponse est "y" qui est observée à travers t (temps). Il n'y a pas d'effet fixe, juste un modèle d'interception. Les scripts enregistrés montrent (1) le tracé t vs y, (2) la solution ARIMA, (3) la solution de modèle mixte avec AR (1) la covariance, (3) la solution de modèle mixte avec effet aléatoire, (4) la solution de modèle mixte avec AR (1) covariance et effet aléatoire. Étant donné la façon dont j'ai simulé les données, la solution (4) est la bonne, et en fait, c'est celle qui a le plus faible AICc et BIC.
C'est pour montrer ce que je voulais dire dans mon post précédent, si je veux comparer différentes structures de covariance avec la même spécification d'effet fixe (ici aucune, juste intercepter), je suis obligé d'utiliser la personnalité du modèle mixte (c'est-à-dire ML). En outre, la solution de série chronologique AR (1) (également ML) ne produit pas les mêmes valeurs LogLikelihood AICc / BIC / -2 que celles trouvées avec la solution AR (1) de modèle mixte - même si j'ai remarqué que leur différence a tendance à disparaître avec la taille des données grandit ce qui n'est pas montré ici.
Re: Pourquoi les valeurs AICc et BIC sous la personnalité Std Least Squares diffèrent-elles de celles sous le modèle mixte? @fdottaviano bonnes nouvelles! Vous pouvez comparer différentes spécifications d'effets aléatoires dans la plateforme de modèles mixtes.
Merci encore à @jiancao ,
Vous pouvez utiliser AICc ou BIC à partir de modèles mixtes pour comparer différentes spécifications d'effets aléatoires avec des ensembles d'effets fixes identiques ou différents.
Quant à la spécification de la structure des covariables dans les mesures répétées, je ne sais pas si vous pouvez utiliser des AIC ou des BIC pour comparer cela à un modèle à effet aléatoire dans les modèles mixtes. Avez-vous un cas d'utilisation où vous aimeriez les comparer? La technique de comparaison que j'ai décrite ci-dessus peut être utilisée pour n'importe quel modèle que vous créez.
@jiancao essayait de souligner que les REML utilisés par SLS seraient différents pour les modèles avec différents ensembles d'effets fixes, même avec les mêmes structures de covariance (la spécification des effets aléatoires est équivalente à la structure CS). Mais je suppose que cela a semé la confusion:
«La principale différence est que dans REML LL, il existe un terme de pénalité, (1/2) log | X`VinvX |, qui implique les effets fixes, X, dans le modèle. Ainsi, lorsque la partie à effet fixe de deux modèles est différente (disons, effets principaux vs effets principaux + interactions avec les deux ayant la même structure de covariance), REML LL, donc, AICc et BIC, sera différent. Cela rend la comparaison des modèles invalide. "
Re: Pourquoi les valeurs AICc et BIC sous la personnalité Std Least Squares diffèrent-elles de celles sous le modèle mixte? @fdottaviano ,
Une autre grande question.
Une option pour comparer le ML au SLS ou aux modèles de tous les différents types d'effets fixes et d'effets aléatoires consiste à enregistrer les formules de prédiction des modèles sous les colonnes de sauvegarde et la formule de prédiction. Utilisez ensuite la plateforme de comparaison de modèles sous le menu d'analyse / modélisation prédictive. Cela ne vous donnera pas AICc ou BIC partiellement en raison des différentes plates-formes de modélisation qui calculent différemment la probabilité du journal. Une autre raison de l'absence d'AICc ou de BIC est de permettre la comparaison des modèles arborescents à la modélisation linéaire. La comparaison des modèles vous donnera RSquare, RASE, AAE. Il vous permettra également de comparer les résidus pour chaque modèle
Ceci est uniquement disponible dans JMP Pro.
Re: Pourquoi les valeurs AICc et BIC sous la personnalité Std Least Squares diffèrent-elles de celles sous le modèle mixte?Merci @phersh ,
Laissez-moi voir si j'ai bien compris.
Ce que j'ai appris, c'est que les personnalités "SLS" et "Régression généralisée" utilisent toutes deux REML, et la personnalité "Mixed Model" utilise ML.
Étant donné que la régression généralisée ne peut exécuter que des modèles à effets fixes, il n'y a aucun risque de comparaisons invalides entre les modèles - en termes AICc ou BIC - car ils sont tous composés d'effets fixes.
Lorsque vous souhaitez adapter un modèle mixte (effets fixes + aléatoires), vous avez deux alternatives en termes de personnalités: SLS et modèle mixte.
Si j'utilise SLS, je peux comparer des modèles - en termes AICc ou BIC - avec des spécifications d'effets aléatoires différentes - par exemple, deux effets aléatoires contre un effet aléatoire contre aucun effet aléatoire - À condition que tous les modèles aient la même spécification d'effet fixe.
Si j'utilise un modèle mixte, je peux comparer des modèles - en termes AICc ou BIC - avec différentes spécifications d'effets fixes - par exemple, surface de réponse vs principale effet + interactions vs effets principaux uniquement - FOURNI tous les modèles ont la même spécification d'effet aléatoire.
Pour voir comment mon matériel de formation SAS PROC MIXED s'intègre dans JMP, nous devons d'abord commencer par une spécification complète d'effets fixes et tester différentes spécifications d'effets aléatoires en utilisant REML - c'est-à-dire en utilisant la personnalité SLS. Une fois que nous avons sélectionné la meilleure spécification d'effet aléatoire - par exemple AICc ou BIC la plus basse - nous testons ensuite différentes spécifications d'effet fixe en utilisant ML - c'est-à-dire en utilisant la personnalité du modèle mixte. Une fois que nous avons sélectionné la meilleure spécification d'effet fixe - par exemple AICc ou BIC la plus basse - nous revenons à la personnalité SLS et estimons le modèle final comprenant à la fois les meilleures spécifications fixes et aléatoires. Jusqu'ici tout va bien.
Cependant, que se passe-t-il en cas de doute entre deux modèles avec une spécification d'effet fixe donnée et des structures de covariance différentes - par exemple, effet aléatoire vs spatial covariance? Dans JMP, je ne peux utiliser que la personnalité du modèle mixte pour l'adapter au modèle spatial. En tant que tel, le modèle spatial ne peut être ajusté que via ML, ce qui m'oblige à utiliser la même personnalité de modèle mixte pour adapter le modèle avec un effet aléatoire afin qu'ils puissent tous les deux être ajustés selon la même méthode: qui est ML. Maintenant, si je veux sélectionner l'un basé sur AICc ou BIC ne serait-il pas invalide? Comment pourrais-je comparer des pommes avec des pommes dans cette situation?
Re: Pourquoi les valeurs AICc et BIC sous la personnalité Std Least Squares diffèrent-elles de celles sous le modèle mixte?Grâce à @jiancao pour la réponse à ce sujet. Tout d'abord une très bonne question. Cela provient de différentes plates-formes de modélisation utilisant différentes probabilités de journal.
Les ML LL et REML LL utilisés par Mixed Model et SLS avec des effets aléatoires sont présentés ci-dessous @jiancao les a capturés à partir de la documentation SAS https://support.sas.com/documentation/cdl/en/statug/63962/HTML/default/viewer.htm#statug_mixed_sect025.htm )
La principale différence est que dans REML LL il y a une peine de pénalité, (1/2) log | X`VinvX | , qui implique les effets fixes, X, dans le modèle. Ainsi, lorsque la partie à effet fixe de deux modèles est différente (disons, effets principaux vs effets principaux + interactions avec les deux ayant la même structure de covariance), REML LL, donc, AICc et BIC, sera différent. Cela rend la comparaison de modèles invalide.
C'est la justification de la décision de JMP d'utiliser ML LL, pas REML. En d'autres termes, dans la personnalité du modèle mixte, vous pouvez utiliser des AIC ou BIC pour comparer différents modèles avec différentes spécifications d'effets fixes. (Je dis que la décision de JMP est parce que SAS Proc Mixed utilise REML comme méthode d'estimation par défaut mais propose ML en option:cara_que_sonríe_con_ojos_sonrientes:)
Une note supplémentaire: le "-2 Log Log vraisemblance résiduelle" dans le rapport Statistiques d'ajustement du modèle mixte suit le REML LL (c'est-à-dire, inclut le terme de pénalité) et correspond au -2 Log Lik vraisemblance rapporté dans la section Estimations des composants de l'écart REML du SLS.
Pour la plate-forme de régression généralisée, nous ne prenons pas en charge les effets aléatoires à ce stade, donc cela n'aiderait pas dans le cas.
GenReg dispose de nombreuses techniques différentes telles que le lasso et le filet élastique qui permettent une sélection variable et un ajustement du modèle en une seule étape. La régression de crête est utile lorsque vous avez des facteurs corrélés. Voici un bel aperçu.
https://www.jmp.com/support/help/en/15.1/?os=win&source=application#page/jmp/overview-of-the-generalized-regression-personality.shtml
