772854_ko-KR

liliconcom

Stepwise regression issue

JMP의 Fit Model - Stepwise 기능을 사용하여 모델을 선택하는 동안 다음과 같은 문제가 발생했습니다.

1. 상호 작용 항이 중요하지만 주효과가 중요하지 않은 경우, 주효과는 모델에서 제외되고 상호 작용 항도 제거됩니다.
2. 상호작용이나 고차 항목이 유의미한 경우, 유의미하지 않더라도 주효과를 유지해야 한다는 것을 이해합니다.
3. P-값 임계값 외에 AIC/BIC 기준을 사용하더라도 역방향 선택 과정에서 주효과는 제거됩니다.

이러한 문제와 관련하여 여러분이 가지고 계신 해결책이나 권장 사항을 알려 주시면 감사하겠습니다.

이는 첨부된 데이터를 사용하여 1차 상호 작용 항만 있는 4가지 요인을 고려할 때 Y1에서 발생했습니다.

 

JMP 단계별 선택	6번째 단계

상호작용 항인 요인 1 * 요인 4는 여전히 유의미하지만, 요인 1은 유의미하지 않기 때문에 제거되었습니다.

Re: 단계별 회귀 문제

Stepwise의 규칙은 혼란스러울 수 있습니다. 당신이 직면한 문제는 "결합" 규칙입니다. JMP 도움말에서:

결합하다

계산하다 p - 선례가 있는 용어에 대한 항목을 고려할 때 두 개의 별도 테스트에 대한 값입니다. 첫번째 p- 값, p 1 은 용어를 선행 용어와 그룹화하고 결합 항목으로 항목에 대한 그룹의 유의 확률을 테스트하여 계산됩니다. 에프 시험. 두번째 p- 값, p 2 는 선행 항이 이미 모델에 입력된 후 입력에 대한 항의 유의 확률을 테스트한 결과입니다. 선례가 있는 항에 대한 항목의 최종 유의 확률은 max( p 1 , 2 페이지 ).

팁: 결합 규칙은 선행 용어가 특히 강력한 영향을 미칠 수 있는 중요하지 않은 상호 작용 용어를 포함하지 않도록 합니다. 이 시나리오에서는 강력한 주효과로 인해 그룹의 진입 가능성이 높아질 수 있습니다. p 1 , 매우 작습니다. 그러나 두 번째 테스트에서는 상호 작용 자체가 중요하지 않은 것으로 나타났습니다. 결과적으로, 2 페이지 는 크며 진입을 위한 최종 유의확률로 사용됩니다.

주의: 선례가 있는 용어의 자유도 값은 두 가지 유의 확률 중 어느 것이 더 큰지에 따라 달라집니다. 진입에 대한 최종 유의 확률에 사용되는 테스트는 자유도를 결정합니다. 현재 추정치 표의 nDF . 그러므로 만일 p 1 사용, nDF 합동 테스트를 위한 그룹의 용어 수와 같고, 2 페이지 사용되면 nDF는 1입니다.

결합 옵션이 기본 규칙입니다. 보다 교차, 상호작용 또는 다항식 항이 있는 모형 .

이제 내 의견으로 돌아갑니다. 결합 규칙을 사용하여 수행되는 두 가지 테스트로 인해 중요하지 않은 용어로 인해 상호 작용이 제거됩니다. 이를 방지하는 한 가지 방법은 규칙을 "제한"으로 변경하는 것입니다. 그렇게 했을 때의 결과는 다음과 같습니다.

예상했던 결과라고 생각합니다.

Re: 단계별 회귀 문제

JMP 18부터 Stepwise 플랫폼에 유전을 존중하는 옵션이 있습니다.

 

.

Re: 단계별 회귀 문제

안녕하세요 Dan, 이것이 제가 찾던 결과입니다. 적절한 옵션을 제안해 주셔서 감사합니다. 그러나 단계적 회귀와 관련된 옵션에 대해서는 여전히 혼란스럽습니다. "제한"은 매뉴얼에 "선례가 있는 용어를 그 선례가 입력될 때까지 입력할 수 없도록 제한하는 것"으로 정의되어 있습니다. 이는 상호작용이 중요한 경우 주효과를 포함하는 것과는 다른 규칙인 것 같습니다. 게다가 돈이 언급한 '유전을 존중하는 전체 효과' 옵션도 다른 결과를 보여준다. 제가 더 잘 이해할 수 있도록 좀 더 자세한 설명을 제공해 주시겠습니까? 다시 한번 감사드립니다.

Re: 단계별 회귀 문제

@HyeWonJung은 두 개 이상의 수준이 있는 범주형 항이 있는 모델에서 결합, 제한, 규칙 없음 및 전체 효과를 사용하는 것은 무슨 일이 일어나고 있는지 보여주는 좋은 방법입니다. 예를 들어 Cars 1993 데이터 세트를 사용하여 다음 모델을 피팅합니다. 차량 카테고리에는 다음과 같은 우선순위에 따라 5가지 레벨이 있습니다.

1. {밴&대형&중형&스포티&컴팩트–소형}
2. {밴–대형&중형&스포티&콤팩트}
3. {대형 및 중형 – 스포티 및 컴팩트}
4. {대형~중형}
5. {스포츠-컴팩트}

이것이 Stepwise가 1자유도 대조를 구축하는 방법입니다. Partition이 분할을 생성하는 데 사용하는 것과 동일한 접근 방식입니다. 고속도로 마일리지를 Y로 하고 차량 카테고리를 유일한 X로 사용하여 파티션을 실행하는 경우 분할은 정확히 이 순서로 발생합니다. 개인적으로 저는 이러한 방식으로 생성된 대조는 해석 가능성이 부족한 경우가 많으며 일반화 회귀가 개별 수준에 따라 1 자유도 대조를 생성하는 방식을 선호합니다. 저는 이러한 대조를 C1 – C5라고 부르겠습니다.

중지 규칙을 P-값 임계값으로 변경하고 Prob를 Enter로 0.40으로 설정합니다. 방향을 앞으로로 설정하십시오.

규칙 없이 시작하세요. 더 이상 용어가 입력되지 않을 때까지 단계를 클릭합니다. 용어는 다음 순서로 입력됩니다.

1. 무게
2. 차량 카테고리(C2) * 중량
3. 차량 카테고리(C1) * 중량
4. 차량 카테고리(C2)
5. 차량 카테고리(C4) * 중량
6. 차량 카테고리(C1)

꽤 직설적 인. 우선순위에 관계없이 가장 작은 p-값을 찾고 모델 외부에 0.4보다 작거나 같은 p-값이 없을 때까지 계속 추가합니다.

모두 제거를 클릭하고 결합을 위해 반복합니다.

1. 무게
2. 차량 카테고리(C1) * 중량 및 차량 카테고리(C1)
3. 차량 카테고리(C2)
4. 차량 카테고리(C4) 및 차량 카테고리(C3)
5. 차량 카테고리(C5)

2단계와 4단계에서는 두 가지 효과가 동시에 추가됩니다. 각 경우에 p-값은 두 항에 대해 별도로 계산됩니다. 2단계의 경우 추가된 첫 번째 항은 상호작용이고, 4단계에서는 대조입니다. 또한 Vehicle Category (C2) * Weight가 규칙 없음 사례에 추가된 두 번째 항임에도 불구하고 모델에서 누락되었습니다. 그 이유는 테스트할 때 개별 차량 카테고리(C2)가 중요했지만 차량 카테고리(C2) * 중량은 차량 카테고리(C2)가 모델에 포함된 후에는 아니었기 때문입니다. 이것이 실제로 결합되는 것입니다.

이제 Restrict에 대해서도 동일한 작업을 수행합니다.

1. 무게
2. 차량 카테고리(C1)
3. 차량 카테고리(C1) * 중량
4. 차량 카테고리(C2)

이는 용어가 한 번에 하나씩 추가된다는 점을 제외하면 Combine과 유사합니다. C3에 대한 p-값(C4 이전)이 너무 커서 모델에 입력할 수 없기 때문에 대비 C3 및 C4는 제한을 사용하여 추가되지 않았습니다. 그러나 Combine은 모델에 C3과 C4가 모두 포함되어 있고 C3이 모델에 추가된 후 C4에 대해 p-값을 계산합니다. 둘 다 0.4 컷오프보다 작습니다.

마지막으로 전체 효과

1. 무게
2. 중량*차량 카테고리(모든 대조)

여기서 전체 효과는 통계적 유전이 아닌 모든 효과의 모든 대조를 의미합니다. 이 경우 상호 작용의 p-값은 더 작으며 모델에 추가되면 차량 범주 주효과 p-값이 너무 커서 고려할 수 없게 됩니다.

유전을 존중하는 전체 효과(Whole Effects Respecting Heredity)로 이 작업을 한 번 더 수행하면 2단계의 상호 작용과 함께 주 효과가 추가됩니다.

이것이 의미가 있기를 바랍니다. 궁금한 점이 있으면 알려주세요.

Re: 단계별 회귀 문제

내 의견은 귀하가 겪고 있는 모든 연속 변수에 적용됩니다. 범주형 요인이 있으면 약간 더 복잡해집니다. 하지만 Don이 더 긴 게시물에서 이를 잘 지적했다고 생각합니다. 그런데 나는 Don이 지적한 새로운 옵션을 눈치채지 못했습니다. 제 생각에는 JMP 도움말이 이에 대해 아주 잘 설명하고 있는 것 같습니다.

제한(Restrict)의 경우 상호작용(및 이차 방정식(선례가 있는 용어))을 제한하여 선례가 입력될 때까지 입력할 수 없습니다. 즉, 주효과가 입력될 때까지 상호작용을 모델에 입력할 수 없습니다. 귀하의 상황에서는 요인 1과 요인 2가 모두 모델에 입력되었으므로 요인 1*요인 2가 항목에 대해 평가될 수 있습니다. 그러나 Combine과 달리 Restrict는 해당 용어에 대해 두 개의 테스트가 아닌 하나의 테스트만 수행합니다.

Re: 단계별 회귀 문제

@dobudo @DonMcCormack 감사합니다!!

귀하의 설명 덕분에 각 옵션에 대해 자세히 알아보고 각 옵션의 메커니즘을 이해했습니다.