n = 8인 선형 회귀 분석에 6개의 항이 허용됩니까?저는 현재 복제되지 않은 2개 수준과 3개 요인, n = 8을 사용하여 전체 요인 실험을 분석하고 있습니다. JMP 가이드에 따르면 여기서 적절한 방법은 역방향 선택을 사용하여 모델을 중요한 요소로 줄이기 전에 고차 상호 작용이 중요하지 않다고 가정하고 요인을 2차까지 사용하여 모델을 맞추는 것입니다.
2x2x2 완전 요인 분석을 위한 JMP 가이드: https://community.jmp.com/t5/Learning-Center/Analyzing-Full-Factorial-Experiments/ta-p/271995
내 질문은 - 데이터가 실제로 모든 주효과와 모든 2차 상호작용이 중요하다는 것을 보여준다고 가정해 보겠습니다. 그러면 8개의 관측값으로 데이터 세트를 설명하는 6개의 용어가 있는 모델이 남습니다. 이 시점에서는 항 수가 많기 때문에 r^2가 매우 높고 6개 요인 모두에 대해 p < 0.05입니다. 분석적인 관점에서 볼 때 이는 과적합으로 간주되며 모범 사례가 아닌 것으로 간주됩니까?
그렇다면 이 데이터를 보는 더 좋은 방법은 주효과만 보는 것(즉, 세부 사항을 자세히 살펴보는 것보다 각 매개변수의 "평균" 효과를 보는 것)일까요?
감사해요.
품질 및 프로세스 엔지니어링Re: n = 8인 선형 회귀에서 6개의 항이 허용됩니까?감사해요, @statman .이것은 모두 매우 도움이 됩니다. 나는 궁극적으로 데이터를 살펴보고 설계된 실험에서 데이터를 그래픽으로 살펴보면 모델이 나에게 말하는 것과 동일한 결론에 도달했을 것이라는 것을 깨달았습니다. 상호 작용과 어떤 요인이 중요한지. 그래서 나는 그것을 좋다고 부른다.
Re: n = 8인 선형 회귀에서 6개의 항이 허용됩니까?QW, 내 생각은 다음과 같습니다.
1. 중요하지 않은 항을 제거하고 유의한 인자를 찾는 이유는 MSE를 편향시켰기 때문입니다. 중요하지 않은 용어(SS가 더 작을 가능성이 있음)를 제거하면 각 용어와 함께 DF도 가져옵니다. MSE는 SS/DF이므로 MSE를 (아마도 비현실적으로) 줄입니다. F-값은 MSfactor/MSerror입니다. 따라서 MSE를 비현실적으로 줄이면 F 값이 부풀려지고 이어서 p 값이 낮아집니다. 제가 조언하고 싶은 것은 어떤 변화의 원인을 비교하고 있는지 항상 고려하라는 것입니다.
2. 정규/절반 정규 플롯(다니엘 플롯)은 해석 방법이 반드시 간단하지는 않습니다. Russel의 PSE는 차트 해석을 돕기 위한 시도이지만 PSE가 항상 유용한 것은 아닙니다. 임의 오류의 함수인 효과(상대적으로 직선이어야 함)와 할당 가능한 효과를 고려해야 합니다. 오류의 무작위 분포를 벗어납니다. 정규 도표가 S-곡선 모양을 가지거나 끊어진 경우 이는 상당한 노이즈 효과를 나타냅니다(우수 오차 분포가 두 개 이상일 수 있음). 사진에서 일반 플롯 상단의 회색으로 표시된 +가 중요한 것처럼 보입니다(제 생각에는 이것이 Column2(x)인 것 같습니다). 정규 플롯과 함께 파레토 플롯을 갖는 것이 정말 도움이 됩니다. 통계적 신호와 실질적인 중요성을 모두 평가합니다.
3. 나는 당신이 지식(그리고 아마도 수학적 모델)을 구축하는 방법에 대해 좋은 시작을 했다고 생각합니다. 저는 실용>그래픽>정량적 방법을 사용합니다.
첫째, 실험에서 생성한 데이터의 변형은 얼마나 됩니까? 데이터가 실용적인 가치를 갖고 있습니까(SME 관점에서)? 당신이 예측한 것과 데이터가 어떻게 비교됩니까? 연구에 포함할 요인을 결정하는 데 사용된 가설과 어떻게 비교됩니까? ANOG 및 MR 차트는 요인 효과를 반응 변수와 연관시키는 패턴을 인식하는 데 탁월합니다. 엔지니어링을 끄지 마십시오.
둘째, 데이터를 그래프로 표현합니다. JMP의 그래프 빌더는 매우 유용할 수 있습니다. 특이한 데이터 포인트(치료법)가 있나요? 이는 또한 정규 도표와 파레토 도표가 유용한 곳이기도 합니다(그 유용성은 포화 모형에서 가장 좋습니다).
마지막으로 정량적(효과, ANOVA, 회귀 분석 등)입니다.
4. DOE 데이터에 대한 정량적 방법을 사용한 모델 개선에 관해: 이를 수행하기 위해 우리가 사용하는 여러 가지 통계/플롯이 있습니다.
- R-제곱-R-제곱 조정된 델타(이는 통계 자체보다 더 중요함)
- RMSE(작을수록 좋음)
- p-값(편향된 값에 주의하고 비교 대상을 고려하세요)
- 잔차(NID(평균, 분산) 가정 테스트용)
DOE에서는 단계별 회귀를 권장하지 않습니다(이것은 데이터 마이닝이나 관측/역사 데이터 회귀에 가장 유용한 추가 모델 구축 접근 방식이며 물론 공선성에 대한 추가 우려가 있습니다). 나는 빼기 접근 방식을 권장합니다(포화 상태로 시작하고 용어 제거). 그리고 3단계는 정말 좋은 것 같아요!
Re: n = 8인 선형 회귀에서 6개의 항이 허용됩니까?감사해요, @statman . 계속해서 계속할 생각은 없습니다. 시간을 내주셔서 감사합니다. 그러나 포화된 모델에서 매개변수 선택을 안내하기 위해 일반 플롯을 사용해 보았습니다. 그러나 일단 그렇게 하고 나면 정규 도표와 Lenth의 의사 p-값 모두에 따라 내 매개변수 중 어느 것도 중요하지 않다는 것을 알았습니다(첨부 파일의 왼쪽). 그러나 의사 또는 실제 p-값을 사용하여 중요하지 않은 항을 한 번에 하나씩 제거하기 시작하면 내 상황을 잘 설명하는 것처럼 보이는 모델에 도달했습니다. 조정된 R^2 = 0.95, p = 0.0351(오른쪽) 부착). 최상의 모델에 도달하려면 의사/실제 p-값과 정규 도표의 조합이 필요하다고 결론을 내리는 것이 맞습니까?
그렇다면 매개변수를 선택하는 가장 좋은 방법에는 정량적 접근 방식(p-값, adj.R^2)과 정성적 접근 방식(도메인 지식, 정규 도표, 잔차)이 모두 포함된다는 점에 동의하시겠습니까? 즉, 다음의 조합입니다.
1. 정규/파레토 도표에서 요인은 어떤 모습입니까?
2. 용어를 추가/제거하면 정량적 가치가 향상됩니까(adj. R^2, 전체 모델의 p-값)?
3. 데이터의 질적 측면을 변경합니까(잔차는 이러한 변경 후에도 여전히 정규 분포를 유지하며 데이터 자체가 현실적으로 의미가 있습니까)?
이 경우 가장 좋은 모델은 먼저 정규/파레토 플롯을 살펴보고 단계적/모델 선택을 통해 미세 조정한 다음 잔차 및 실제 데이터를 육안으로 검사하여 검증합니다.
감사합니다!
Re: n = 8인 선형 회귀에서 6개의 항이 허용됩니까?커뮤니티에 오신 것을 환영합니다. 내 생각은 다음과 같습니다.
MSE를 추정하기 위해 3차 효과(3요인 상호작용)를 사용하고 있습니다. 이것이 모든 효과가 중요한 이유일 것입니다. 데이터를 보는 더 좋은 방법은 정규 및 절반 정규 도표(수준 설정이 얼마나 임의적인지에 따라 다름)와 파레토 도표를 사용하는 것입니다. 분석>모델 적합>매크로>전체 요인을 사용하여 모델 포화(7개 DF 모두) 출력에서 반응 옆에 있는 빨간색 삼각형을 선택하고 효과 선별을 선택합니다. 파레토 도표와 정규 도표를 확인하세요. 정규 도표는 MSE 편향 없이 효과를 서로 비교합니다. Pareto 플롯에 실질적인 중요성을 나타내는 값을 추가합니다.
중요한 효과를 찾으면 중요하지 않은 항을 제거하고 적합 모형을 다시 실행하여 잔차 도표를 얻을 수 있습니다.
Re: n = 8인 선형 회귀에서 6개의 항이 허용됩니까?응답해주셔서 감사합니다, 샘.
복제되지 않은 2^3 요인 실험의 경우 모든 주효과와 2-요인 상호 작용을 모델링하는 '이론적으로 가능'합니다. 그러나 이 논의에 따르면 이 기능은 실제로 그다지 신뢰할 수 없는 것으로 보입니다. 주효과와 2요인 상호 작용을 모델링하는 데 필요한 자유도에 관한 '경험 법칙'이 있습니까? 예를 들어 DoF = 모델 항 수의 2배와 같을까요?
Re: n = 8인 선형 회귀에서 6개의 항이 허용됩니까?@QW 특히 작은 데이터 세트의 경우 모델을 과적합하지 않도록 주의해야 한다는 점에서는 맞습니다.그러나 설계된 실험의 경우 두 요인 상호 작용이 모두 중요하거나 중요한 경우가 있을 수 있습니다.실험의 계획과 실행이 주의 깊게 이루어졌다면 효과 크기에 비해 실험 오류가 작을 수 있습니다.
다음을 통해 데이터를 평가하는 것이 가장 좋습니다.
- 데이터 도표화:
- 모든 데이터 대 요인의 도표(요인 도표 또는 주효과 도표라고도 함).특이치나 기타 특이한 데이터를 찾아보세요.
- 과학적/이론적 관점에서 데이터가 타당한지 스스로에게 물어보세요.
- 모델을 피팅하고 잔차(각 행에 대한 피팅 오류)를 플로팅합니다.
- 프로파일러를 사용하여 모델의 예측 효과 탐색
- 유의미한 효과가 실제로는 실제로 중요하지 않을 수도 있으며, 그렇다면 실제 예측에 큰 차이 없이 모델에서 해당 효과를 제거할 수 있습니다.
과적합에 대한 추가적인 우려가 있는 경우 데이터에 적합한 단계적 회귀 모델을 적용해 볼 수도 있습니다.
