Std Least Square 특성 하의 AICc 및 BIC 값이 혼합 모델 1 하의 값과 다른 이유는 무엇입니까?정확히 동일한 데이터와 혼합 모델을 사용하는 경우 Std Least Squares (SLS) 또는 혼합 모델 성격을 사용하는지에 따라 다른 AICc 및 BIC 값을 얻습니다. SLS 사례에 대한 이러한 기준의 공식 단순화가 있습니까? 그렇다면 무엇입니까? 그리고 일반 회귀 특성의 경우는 무엇입니까?
Re : Std Least Square 특성 하의 AICc 및 BIC 값이 혼합 모델 1 하의 값과 다른 이유는 무엇입니까?JMP의 시계열 및 혼합 모델 플랫폼은 동일한 추정 알고리즘을 사용하지 않습니다. ARIMA는 초기화 단계를 실행하여 Kalman 필터를 시작하지만 혼합 모델은 그렇지 않습니다. 그러나 그 차이는 작고 무시할 만하다.
질문 해 주셔서 감사합니다.
Re : Std Least Square 특성 하의 AICc 및 BIC 값이 혼합 모델 1 하의 값과 다른 이유는 무엇입니까?안녕 pher 과 jia ,
이 메시지에 첨부 된 이전 포인트를 예시하기 위해 함께 모은 시뮬레이션 된 데이터 셋을 찾을 수 있습니다. 시뮬레이션 공식이 표시됩니다.
응답은 "y"이며 이는 t (시간)를 통해 관찰됩니다. 고정 효과는 없으며 인터셉트 모델 만 있습니다. 저장된 스크립트는 (1) 플롯 t 대 y, (2) ARIMA 솔루션, (3) AR (1) 공분산을 사용한 혼합 모형 솔루션, (3) 임의 효과를 갖는 혼합 모형 솔루션, (4) AR을 사용한 혼합 모형 솔루션을 보여줍니다. (1) 공분산 및 랜덤 효과. 데이터를 시뮬레이션 한 방식을 고려할 때 솔루션 (4)가 올바른 것이며 실제로 AICc & BIC가 가장 낮은 솔루션입니다.
이것은 동일한 고정 효과 사양과 다른 공분산 구조를 비교하려는 경우 이전 게시물에서 의미하는 바를 표시하는 것입니다. ML). 또한 AR (1) 시계열 솔루션 (또한 ML)은 혼합 모델 AR (1) 솔루션에서 찾은 동일한 AICc / BIC / -2 LogLikelihood 값을 출력하지 않습니다. 데이터 크기에 따라 차이가 사라지는 경우 여기에 표시되지 않은 성장.
Re : Std Least Square 특성 하의 AICc 및 BIC 값이 혼합 모델 1 하의 값과 다른 이유는 무엇입니까? @fdottaviano 좋은 소식! 혼합 모델 플랫폼에서 다른 임의 효과 사양을 비교할 수 있습니다.
다시 한번 감사합니다 jia ,
혼합 모델의 AICc 또는 BIC를 사용하여 서로 다른 임의 효과 사양을 동일하거나 다른 고정 효과 세트와 비교할 수 있습니다.
반복 측정에서 공변량 구조를 지정하는 경우 AIC 또는 BIC를 사용하여 혼합 모델의 임의 효과 모델과 비교할 수 있는지 여부는 알 수 없습니다. 이것들을 비교하고 싶은 유스 케이스가 있습니까? 위에서 설명한 비교 기술은 사용자가 만든 모든 모델에 사용할 수 있습니다.
jia SLS가 사용하는 REML은 동일한 공분산 구조 (임의 효과 사양은 CS 구조와 동일)에서도 고정 효과 세트가 서로 다른 모델에 대해 다를 것이라고 강조했습니다. 그러나 이것이 혼란을 초래했다고 생각합니다.
“핵심 차이점은 REML LL에는 모델에 고정 효과 X를 포함하는 페널티 항 (1/2) log | X`VinvX |가 있다는 것입니다. 따라서 두 모델의 고정 효과 부분이 다른 경우 (예 : 동일한 공분산 구조를 갖는 주 효과 대 주 효과 + 상호 작용) REML LL, 따라서 AICc와 BIC는 달라집니다. 이로 인해 모델 비교가 유효하지 않습니다.”
Re : Std Least Square 특성 하의 AICc 및 BIC 값이 혼합 모델 1 하의 값과 다른 이유는 무엇입니까? @fdottaviano ,
또 다른 좋은 질문입니다.
ML을 SLS 또는 모든 다른 유형의 고정 효과 및 랜덤 효과의 모델과 비교하는 한 가지 옵션은 저장 열 및 예측 수식에서 모델의 예측 수식을 저장하는 것입니다. 그런 다음 분석 메뉴 / 예측 모델링에서 모델 비교 플랫폼을 사용하십시오. 이것은 로그 가능성을 다르게 계산하는 다른 모델링 플랫폼으로 인해 AICc 또는 BIC를 부분적으로 제공하지 않습니다. AICc 또는 BIC가없는 또 다른 이유는 트리 기반 모델을 선형 모델링과 비교할 수 있기 때문입니다. 모델 비교는 RSquare, RASE, AAE를 제공합니다. 또한 각 모델의 잔차를 비교할 수 있습니다
JMP Pro에서만 사용할 수 있습니다.
Re : Std Least Square 특성 하의 AICc 및 BIC 값이 혼합 모델 1 하의 값과 다른 이유는 무엇입니까?감사 pher ,
내가 제대로했는지 보자.
내가 배운 것은 "SLS"와 "Generalized Regression"성격은 모두 REML을 사용하고 "Mixed Model"성격은 ML을 사용한다는 것입니다.
일반 회귀 분석은 고정 효과 모델 만 실행할 수 있기 때문에 AICc 또는 BIC 용어로 모두 고정 효과로 구성되어 있기 때문에 btw 모델에 대한 잘못된 비교의 위험이 없습니다.
혼합 모델 (고정 + 랜덤 효과)을 맞추려면 성격 측면에서 SLS와 혼합 모델의 두 가지 대안이 있습니다.
SLS를 사용하면 AICc 또는 BIC 용어로 모델을 비교할 수 있습니다. 다른 임의의 효과 사양 (예 : 2 개의 임의의 효과 대 하나의 임의의 효과 대 임의의 효과 없음)-모든 모델에 동일한 고정 효과 사양이 있습니다.
혼합 모델을 사용하는 경우 AICc 또는 BIC 용어로 모델을 다른 고정 효과 사양과 비교할 수 있습니다 (예 : 응답 표면 대 메인) 효과 + 상호 작용 대 주요 효과 만-모든 모델에 동일한 랜덤 효과 사양이 있습니다.
SAS PROC MIXED 교육 자료가 JMP에 어떻게 적용되는지 확인하려면 먼저 전체 고정 효과 사양으로 시작하고 REML을 사용하여 (예 : SLS 특성) 다른 랜덤 효과 사양을 테스트해야합니다. 최상의 랜덤 효과 사양 (예 : 최저 AICc 또는 BIC)을 선택한 후에 ML을 사용하여 (예 : 혼합 모델 특성) 다른 고정 효과 사양을 테스트합니다. 최상의 고정 효과 사양 (예 : 최저 AICc 또는 BIC)을 선택하면 SLS 특성으로 돌아와서 최고 고정 및 임의 사양으로 구성된 최종 모델을 추정합니다. 여태까지는 그런대로 잘됐다.
그러나 주어진 고정 효과 사양과 다른 공분산 구조를 가진 두 가지 모델-예를 들어 무작위 효과 대 공간 공분산? JMP에서는 공간 모델에 맞게 혼합 모델 특성 만 사용할 수 있습니다. 따라서 공간 모델은 ML을 통해서만 피팅 할 수 있으므로 동일한 혼합 모델 특성을 사용하여 임의의 효과로 모델에 맞도록 강요하므로 둘 다 동일한 방법으로 피팅 할 수 있습니다 : ML입니다. 이제 AICc 또는 BIC를 기반으로 하나를 선택하려면 유효하지 않습니까? 이 상황에서 사과와 사과를 어떻게 비교할 수 있습니까?
Re : Std Least Square 특성 하의 AICc 및 BIC 값이 혼합 모델 1 하의 값과 다른 이유는 무엇입니까?덕분에 jia 이에 대한 답변. 우선 정말 좋은 질문입니다. 이것은 다른 로그 가능성을 사용하는 다른 모델링 플랫폼에서 비롯됩니다.
랜덤 효과가있는 혼합 모델 및 SLS에서 사용되는 ML LL 및 REML LL은 다음과 같습니다. jia SAS 문서에서 캡처 https://support.sas.com/documentation/cdl/en/statug/63962/HTML/default/viewer.htm#statug_mixed_sect025.htm )
주요 차이점은 REML LL에는 페널티 용어가 있다는 것입니다. (1/2) 로그 | X`VinvX | 모델의 고정 효과 X가 포함됩니다. 따라서 두 모델의 고정 효과 부분이 다른 경우 (예 : 동일한 공분산 구조를 갖는 주 효과 대 주 효과 + 상호 작용) REML LL, 따라서 AICc와 BIC는 달라집니다. 모델 비교가 유효하지 않습니다.
이것이 JML이 REML이 아닌 ML LL을 사용하기로 한 결정의 근거입니다. 즉, 혼합 모델 특성에서 AIC 또는 BIC를 사용하여 다른 모델을 다른 고정 효과 사양과 비교할 수 있습니다. (JMP의 결정은 SAS Proc Mixed이 기본 추정 방법으로 REML을 사용하지만 ML을 옵션으로 제공하기 때문입니다:cara_que_sonríe_con_ojos_sonrientes:)
추가 참고 사항 : 혼합 모형 적합 통계량 보고서의 "-2 잔여 로그 가능성"은 REML LL (즉, 페널티 항 포함)을 따르며 SLS의 REML 변동 성분 추정치 섹션에보고 된 -2 로그 가능성과 일치합니다.
일반화 회귀 플랫폼의 경우 현재 시점에서 임의의 효과를 지원하지 않으므로이 경우 도움이되지 않습니다.
GenReg는 Lasso 및 탄성 그물과 같은 다양한 기술을 사용하여 한 번에 변수를 선택하고 모델을 조정할 수 있습니다. 릿지 회귀는 상관 요인이있을 때 유용합니다. 다음은 좋은 개요입니다.
https://www.jmp.com/support/help/en/15.1/?os=win&source=application#page/jmp/overview-of-the-generalized-regression-personality.shtml
