761497_ko-KR

liliconcom

SVEM: ¿ 신경망 또는 올가미?

DoE 혼합(3개 구성 요소)과 프로세스 요인 및 반응 변수(정량적)를 사용하여 예측 모델 연구를 수행하고 있습니다. SVEM을 적용하려고 하는데 신경망이나 Lasso를 사용할 때 무엇에 의존하는지 질문이 있습니다.

답변해 주셔서 감사합니다.

고급 통계 모델링자동화 및 스크립팅기본 데이터 분석 및 모델링소비자 및 시장 조사콘텐츠 구성데이터 접근데이터 혼합 및 정리데이터 탐색 및 시각화실험 설계대량 맞춤화예측 모델링 및 기계 학습품질 및 프로세스 엔지니어링신뢰성 분석결과 공유 및 전달답변: SVEM: ¿ 신경망 또는 올가미?

안녕하세요 @CrhistianDoE 님 ,

DoE 데이터의 경우 여러 가지 이유로 인해 이러한 옵션 중 어느 것도 첫 번째 선택이 아닐 것이라고 말하고 싶습니다.

신경망 과 올가미( 일반화 회귀 분석 )는 매우 다른 두 가지 분석 기술입니다.

• 신경망은 적절한 수의 레이어를 사용하여 신중하게 구성해야 하는 충분한 레이어와 뉴런을 사용하여 모든 기능을 근사화할 수 있는 복잡한 기계 학습 모델입니다( 보편적 근사 정리: https://en.m.wikipedia.org/wiki/Universal_appimation_theorem 참조). 그리고 뉴런 그리고 더 중요한 것은 좋은 검증 전략입니다. 신경망은 모든 함수의 모델링 및 근사화에 매우 유연할 수 있으므로 좋은 검증 전략 없이는 빠르게 과적합되는 경향이 있고 데이터에서 노이즈 모델링을 시작할 수 있습니다. NN의 모델이 알려지지 않은 새로운 데이터 포인트에 잘 일반화될 수 있는지 확인하기 위해 테스트 세트(또는 DOE 설계 공간의 테스트 포인트/새 포인트)도 적극 권장됩니다. 이전 게시물에서는 신경망과 그 신중한 사용에 대한 추가 설명을 제공합니다.
  신경망의 동일한 계층에 있는 노드 간의 차이점은 무엇입니까?
  모델 스크리닝: 신경망/K-겹 교차 검증
  모델 비교에 대한 도움말: DOE vs ANN 강화
  
  
• Generalized Regression의 Lasso는 변수/요인 사이에 공선성이 높을 수 있는 대규모 데이터세트의 맥락에서 및/또는 특징/변수 선택에 도움이 되기 때문에 관측치보다 변수가 더 많은 경우에 매우 유용한 회귀 모델의 페널티화 기술입니다. Lasso 상관 변수에서 가장 중요한 변수를 선택하는 데 도움이 되며 선택되지 않은 상관 변수의 계수를 0으로 축소합니다(이것이 특성 선택의 맥락에서 매우 유용한 이유입니다).
  자세한 내용은 여기를 참조하세요. 일반화 회귀 성격 개요(jmp.com)

DoE 데이터의 경우 사용자 정의 설계 플랫폼 또는 기존 혼합 설계를 사용한 경우 가정된 모델이 포함된 작지만 신중하게 계획된 데이터세트가 있거나 공간을 생성한 경우 설계 공간에 동질적인 점 재분할이 있습니다. - 채우는 디자인.

• 맞춤형/전통적 혼합 설계의 경우 설계 생성 시 모델이 이미 가정되어 있으므로 Lasso, SVEM 또는 기타 복잡한 기술로 시작하지 않습니다. 신경망을 사용하는 것도 적절하지 않습니다. 포인트 재분배는 모델을 기반으로 하며 디자인 공간에 대해 충분히 동질적이고 우수한 적용 범위를 제공하지 못할 수 있기 때문입니다. 따라서 신경망과 같은 고성능의 복잡한 보간 모델을 사용하기에는 각 요인에 대한 수준이 충분하지 않을 수 있습니다.
  가정된 모델과 "전통적인" 회귀(표준 최소 제곱)에 포함된 모델 항으로 시작하여 모델 적합성을 시각화/분석합니다.
  "실제 대 예측" 플롯은 어떻게 생겼나요? 잔차는 어떻습니까? 등...
  모델이 3개의 혼합 변수 사이의 연결을 포착할 만큼 복잡하지 않은 경우 고차 항을 포함하도록 설계를 강화해 보십시오. 혼합 설계는 예측성을 강조하므로 p-값 이외의 다른 기준(예: 최대 우도, RMSE, AICc 또는 BIC와 같은 정보 기준)에 대해 모델 개선을 수행하는 것이 더 좋습니다.
  이 주제에 대한 일부 게시물 : 해결: Re: 단계적 회귀를 사용한 혼합물 DOE 분석 - JMP 사용자 커뮤니티
  해결 방법: Scheffe 3차 혼합 및 p-값 - JMP 사용자 커뮤니티
  일반화 회귀 플랫폼을 사용하려는 경우 "Pruned Forward Selection"(AICc/BIC 검증 방법 포함), "2단계 Forward Selection" 또는 최종적으로는 "Best Subset"(해당 경우에만)과 같은 더 적합한 다른 추정 방법이 있을 수 있습니다. 주효과와 고차 항의 다양한 조합을 사용하여 많은 모델을 테스트하므로 요인 수가 제한되어 있습니다.
  
  
• 공간 채우기 설계에는 신경망을 고려하기 전에 시도해 볼 수 있고 시도해야 하는 기계 학습 방법이 많이 있습니다. 일반적으로 Random Forest 와 Support Vector Machine은 흥미로운 ML 알고리즘입니다.
  작은 데이터 세트에 대한 예측 성능이 좋고, 과적합 경향이 적고(더 단순함), 이상값에 대해 상당히 견고하고, 일반화 성능이 좋고, 비선형 상황을 처리하고, 하이퍼 매개변수 조정이 거의 필요하지 않습니다(Random Forest는 기본 설정에서 매우 잘 수행되고, 통합된 옵션인 Tuning design(튜닝 디자인 )을 사용하여 SVM을 쉽게 미세 조정할 수 있고 해석하기가 더 쉽습니다.
  Random Forest(JMP에서는 Bootstrap Forest라고 함)는 모델 비교를 위한 좋은 벤치마크를 제공하며 종종 테스트를 위한 기본 선택입니다. DoE 데이터 세트에 대한 두 가지 알고리즘을 기반으로 작성된 LinkedIn의 일부 개인 게시물:
  - 랜덤 포레스트: https://www.linkedin.com/posts/victorguiller_doe-machinelearning-randomforests-activity-7127557799810625536-FH7K
  - 지원 벡터 머신: https://www.linkedin.com/posts/victorguiller_doe-machinelearning-statsjoke-activity-7117395916130537472-pJoB

이 (긴) 답변이 도움이 되길 바랍니다.