표본 크기가 작은 경우 모델 항을 선택하는 방법은 무엇인가요? (Lasso를 사용해야 할까요? p-값을 이용해 수동으로 항을 선택해야 할까요?)안녕하세요,
저는 이차방정식 모델에 포함할 항들을 선택하는 가장 좋은 방법을 찾으려고 노력하고 있습니다. 
우선, 저는 최소제곱법을 사용하여 pH 및 기타 연속 변수(그리고 곧 모델에 추가할 수 있는 몇 가지 이산 변수)가 세 가지 요인(농도 A, 농도 B, 비율 C)에 의해 어떻게 영향을 받는지 이해하려고 합니다. 즉, 요인들(제곱항 및 상호작용항)과 제가 측정한 출력값(pH, 유변학적 값 등) 사이의 관계를 찾아야 합니다.
저는 L9 타구치 행렬 실험 설계(각각 3단계의 수준을 가진 3개의 변수)를 사용하여 데이터를 얻었으므로 실험은 총 9개입니다. 이제 각 출력값에 사용할 모델 항을 선택해야 합니다. (첫 번째 모델은 pH에 사용하고, 다른 모델은 유변학적 측정에 사용하는 식입니다.)
단 9번의 시뮬레이션 실행으로는 완전한 2차 모델(매개변수 10개)을 적합시킬 수 없다는 것을 알고 있습니다. 주효과는 직교하지만, 2차 상호작용항은 주효과와 유사하므로(상관계수 |r| ≈ 0.58) 이를 제거할 계획입니다. 그러면 주효과와 2차항(매개변수 6개)만 남게 됩니다. 제 질문은 이러한 남은 항들 중에서 어떤 것을 선택해야 하는지에 관한 것입니다. 수동 축소(유의미하지 않은 항을 하나씩 제거하는 방식)와 LASSO 중 어떤 방법이 박사 학위 논문에 더 적합할까요?
도움 주셔서 감사합니다!
진심으로 감사드립니다.
안나
제목: 소규모 표본 크기에 대한 모델 항 선택 방법 (Lasso를 사용해야 할까요? p-값을 이용해 수동으로 항을 선택해야 할까요?)더 궁금한 점이 있으면 언제든지 문의하세요!
제목: 소규모 표본 크기에 대한 모델 항 선택 방법 (Lasso를 사용해야 할까요? p-값을 이용해 수동으로 항을 선택해야 할까요?)안녕하세요 @FrancesBudgie97 님 ,
커뮤니티에 오신 것을 환영합니다!
타구치 설계가 사용되는 경우는 매우 드뭅니다. 확실히 하기 위해 여쭤보겠습니다. 세 가지 요인은 연속형 수치 변수인데, 설계를 만들 때는 범주형 또는 이산형 수치 변수로 정의하신 건가요?
모델에서 다른 항과 상관관계가 있는 항을 기본적으로 제거하지는 않을 것입니다. 항들 간의 상관관계는 설계에서 흔히 발견되며, 그렇다고 해서 해당 항들을 모델에 포함시키지 않을 이유는 없습니다. 다만, 항 포함에 제약이 생길 수 있습니다(모든 항을 포함할 수는 없으며, 그렇게 하면 모델에 특이점이 발생할 수 있습니다). 또한, 항들을 추정하는 데 있어 정확도가 떨어지고(추정값 주변의 신뢰구간이 넓어짐), 다중공선성이 발생할 수 있습니다(모델에 포함된 항들의 분산팽창계수(VIF) 값을 확인하여 다중공선성 정도를 평가할 수 있습니다).
설계에서 반응 표면 모델(RSM)의 모든 가능한 항을 예측할 수 없으므로, 과포화 상태에 놓이게 됩니다. 따라서 다양한 반응에 가장 큰 영향을 미치는 항을 파악하는 데 도움이 되는 특정 방법을 사용해야 합니다. 몇 가지 유용한 방법은 다음과 같습니다.
프랑스 JMP 사용자 그룹 에서 제가 다양한 플랫폼을 사용하여 모델 적합도 지표(R²/RMSE 등), 모델 복잡성/정확도 균형( 우도, AICc, BIC와 같은 정보 기준 사용) , 항 포함에 대한 모델 간 일치도 등을 비교한 사용 사례를 여기에서 확인하실 수 있습니다.
모델 구축을 위해 용어를 추가/삭제하는 방법에 대한 질문에 대해서는 위에서 언급한 방법들이 도움이 될 수 있습니다. 하지만 더 중요한 것은 다음을 정의해야 한다는 것입니다.
- 당신의 목표는 무엇인가요? 스크리닝 상황(p-값이 실제 신호와 무작위 변동 또는 노이즈를 구분하는 데 도움이 될 수 있는 경우)인가요? 아니면 최적화/예측 시나리오(모델의 정확도가 더 중요하므로 RMSE 및 기타 예측 지표에 의존할 수 있는 경우)인가요? 아니면 그 중간 상황으로 확신이 서지 않는 경우인가요? (정보 기준은 모델을 비교하고 정확도와 복잡성 사이의 균형을 맞춰 포함되는 항의 개수와 적절한 균형을 결정하는 데 도움이 될 수 있습니다.)
- 해당 분야에 대한 전문 지식/경험 : 과거 데이터나 연구 대상 시스템에 대한 지식을 바탕으로 특정 용어를 추가/삭제할 수 있습니까? 이미 알려진 중요 상호작용이나 주요 효과가 있습니까? 해당 분야 전문가와 함께 모델을 검토/평가하여 타당성을 확인할 수 있습니까?
- 검증 전략 : 응답에 적합해 보이는 모델을 선택했다면, 이제 이 모델들을 검증해야 합니다. 목표와 실험 예산에 따라 검증 시나리오는 다양할 수 있습니다. 최적점만 검증하고 싶으신가요? 아니면 연구된 요인 범위 전체에 걸쳐 모델을 검증하고 싶으신가요? (이를 위해 설계에 포함되지 않았지만 요인 범위를 준수하는 다양한 요인 수준 조합을 사용하여 실험을 진행할 수도 있습니다.) 연구 결과를 검증하는 데 엄격한 규칙은 없지만, 이러한 검증 실험에 충분한 시간과 노력을 투자하면 모델에 대한 신뢰도를 크게 높일 수 있습니다 (그리고 검토자들의 신뢰도 또한 향상될 것입니다!).
이 답변이 도움이 되길 바랍니다.
