전단계적 회귀를 사용하여 모델 구축에서 요인 선택안녕하세요!
저는 석사 논문에서 통계 모델을 구축하기 위해 JMP 13을 사용하고 있습니다. 저는 모델을 만드는 데 익숙하지 않기 때문에 제 질문이 다소 기본적이라고 생각된다면 미리 사과드립니다. 하지만 어떤 종류의 도움이라도 제게는 정말 큰 의미가 있을 것입니다.
석사 논문에서는 몇 가지 프로세스를 연구하기 위해 확정 선별 설계(6개 요인 + 2개 가짜 요인, 7개 반응, 17개 실행)를 수행했습니다. 필요한 모든 실험과 분석을 마친 후, 수집된 데이터를 Jones와 Nachtsheim이 2016년에 제안한 두 가지 분석 방법론(Effective model Selection for DSDs(EMS) 방법 또는 Forward stepwise regression(FSR))으로 분석했습니다. 그들은 EMS가 일반적으로 선호되지만 활성 효과 수가 실행 수의 절반 이하이고 최대 2개의 활성 양방향 상호 작용 또는 최대 하나의 활성 2차 효과가 있는 경우 FSR이 적절하게 수행된다고 말합니다(DOE Guide p. 257). 이러한 조건은 우리의 모든 응답에 적용됩니다.
FSR 방법을 사용하여 모델을 구축하기 위한 요소 선택에 관해 몇 가지 질문이 있습니다. 저는 다음 조건으로 FSR을 수행했습니다.
정지 규칙: 최소 AICc
방향: 앞으로
규칙: 결합
FSR은 몇 가지 요소를 선택하고 표준 최소 제곱으로 모델을 만들었습니다.
첫 번째 질문은 다음과 같습니다.
효과 요약(아래 효과 요약 1 사진 참조)에서 Temp(5,25) 요소의 P값은 0,16260임을 확인했습니다. 나는 결합 규칙 때문에 이 요소가 포함된다는 것을 알고 있습니다(Temp.는 0,05 미만의 P값을 갖는 Konc.lakt*Temp. 상호 작용에 포함됩니다). Temp. Temp.가 포함되어 있거나 그것 없이도 모델을 만들 수 있습니까? 상호작용에 포함되나요? 만약 온도. 제거되면 JMP는 Temp. 누락.
또한 Temp를 삭제해도 모델이 크게 변경되지 않는 것으로 나타났습니다. 이는 P값이 높기 때문에 의미가 있으며, 이는 해당 요소가 중요하지 않다는 신호로 이해됩니다. (아니면 내가 틀렸나요?) 포함된 다른 요인의 PValue도 변경되었으므로 이제 Konc.lakt 요인도 0,05보다 큰 PValue를 갖습니다(이도 제외해야 할까요?).
모델들을 비교해봤습니다. (아래 사진 참조: 축소된 모델에 대한 예측 플롯 1에 의한 실제 및 축소되지 않은 모델에 대한 예측 플롯 2에 의한 실제). 그림 효과 요약 1의 모든 효과가 포함된 모델과 P값이 0.05보다 낮은 요소만 포함된 모델을 비교했습니다(사진 효과 요약 2 참조). 모델은 매우 유사해 보이고, 더 많은 효과가 포함된 모델은 약간 더 적합하지만(이건 말이 됨), 그다지 많지는 않습니다. 잔차 분석도 매우 유사하며, 모델을 만드는 데 사용되지 않은 추가 실험의 포인트(파란색) , 보라색 및 녹색 별)은 비슷한 위치에 있습니다. 모델에서 덜 활성화된 효과를 유지하는 것이 맞나요? 나는 그렇게 생각하지 않습니다. 이러한 효과는 모델을 크게 변경하지 않으므로 이를 포함하면 오해의 소지가 있을 수 있고 모델에 과적합될 수 있기 때문입니다. 아니면 제가 틀렸나요?
0.05보다 낮은 값을 가진 하나의 요인만 얻은 다른 응답을 보면 모델에 다른 요인을 추가하면 이전 예보다 모델이 약간 더 향상되지만(더 나은 피팅, 더 나은 잔차 분석) 여전히 그다지 좋지는 않습니다. 많이 있습니다(아래 사진 참조: 축소되지 않은 모델의 경우 예측 플롯 3에 따른 실제, 축소된 모델의 경우 예측 플롯 4에 따른 실제). 축소 모형에 한 가지 요소만 남으면 상황이 바뀌나요?
귀하의 모든 답변과 노력에 미리 감사드립니다.
다니엘
Re: 전단계적 회귀를 사용하여 모델 구축에서 요인 선택네, 측정할 때마다 그렇게 했습니다. 또한 적절할 때 변환을 수행했습니다(더 나은 데이터 적합성과 더 나은 잔차 분석). 모델 개선을 위한 나의 다른 제안에 대해 어떻게 생각하시나요?
Re: 전단계적 회귀를 사용하여 모델 구축에서 요인 선택여러 번 응답 테스트(측정)를 여러 번 실행하고(3) 결과 응답을 평균하여 측정 시스템으로 인한 오류를 줄입니다.
모델 변환에 대한 정보를 보려면 JMP 도움말을 확인해 보세요.
선형 모델 피팅 > 표준 최소제곱 보고서 및 옵션 > 요인 프로파일링 > Box Cox Y 변환
Re: 전단계적 회귀를 사용하여 모델 구축에서 요인 선택좋은 지적입니다. 그럴 것 같지만 확인해 봐야겠습니다. 다른 응답에서는 모델이 훨씬 좋아 보입니다. 저는 실제로 이 모델을 더 좋게 만들 수 있는 방법이 궁금하기 때문에 최악의 두 모델을 선택했습니다. 반응 견고성은 호기심에서 측정되었으며 좋은 분석 방법인지 나쁜 분석 방법인지 나와야 합니다. 방법이 별로인거 같은데..
또한 모델을 개선하기 위해 무엇을 할 수 있을지 생각하고 있었습니다. 분석 방법이 나쁘면 측정을 반복하는 것 외에 할 수 있는 일이 별로 없을 것 같아요. 표준 최소 제곱법 이외의 다른 방법(예: 로그선형 분산)을 사용하여 모델을 구축해 볼 수도 있습니까? 몇 가지 실험을 더 수행하여 모델을 개선할 수 있습니까? 그렇다면 모델이 가장 많이 개선할 요인 값을 어떻게 선택할 수 있습니까(가능한 경우)? 모델을 개선할 수 있는 다른 방법이 있나요?
Re: 전단계적 회귀를 사용하여 모델 구축에서 요인 선택귀하의 답변에 감사드립니다. 많은 도움이 되었습니다.Re: 전단계적 회귀를 사용하여 모델 구축에서 요인 선택다니엘젤,
귀하의 응답에 대한 테스트 방법, 즉 진원도와 견고성이 적절한 성능을 갖추고 있습니까? 같은 날, 시간이 지남에 따라 샘플을 여러 번 분석한 경우 재현 가능한 결과를 얻을 수 있습니까? 테스트 방법의 노이즈를 이해하면 노이즈로 인해 많은 신호가 상승하는 경우가 종종 있기 때문에 궁금합니다.
Re: 전단계적 회귀를 사용하여 모델 구축에서 요인 선택첫 번째 질문의 경우 반드시 필요한 것은 아니지만 결합 규칙은 효과 유전 원칙을 존중하기 위한 것입니다.일반적으로 주효과를 제거하고 해당 효과를 포함하는 상호 작용을 모델에 남겨 두는 것은 좋지 않은 습관입니다.즉, 이를 제거하면 다른 모든 요인 수준에 걸친 온도의 평균 효과는 0이지만 효과 크기는 다른 요인 수준(들)에 따라 0이 아닐 수 있다는 의미입니다. 상호 작용).
요인이 서로 높은 상관 관계를 갖는 경우 p-값은 모형에 들어오고 나가는 항목에 따라 크게 바뀔 수 있습니다.DSD를 했기 때문에 주요 효과는 모두 완전히 직교해야 합니다. 그래서 내 생각엔 그런 일은 일어나지 않을 것 같습니다. Konc.lakt.알파 수준은 신성하지 않습니다.p-값이 미미한 경우 판단을 내리는 것이 좋습니다.
제가 여러분에게 드리고 싶은 또 다른 조언은 이러한 유형의 디자인에서는 알파를 넉넉하게 사용하라는 것입니다.DSD는 일반적으로 매우 경제적인 디자인이기 때문에 통계적 능력이 가장 뛰어나지 않습니다.실제로 중요한 몇 가지 요소를 줄이는 것은 매우 쉽습니다.나는 과소적합보다는 과적합을 선호합니다.모델이 Actual by Predicted 4에서 적합하지 않은 것 같습니다. 모델이 합리적인 예측을 제공하는지 확인하기 위해 디자인 공간 내의 몇 가지 다른 지점에 대해 확인 실행을 수행하는 것도 좋은 생각입니다.