가우스 모델 예측 방정식은 그다지 정확하지 않습니다.<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />안녕하세요 여러분,
저는 수백 개의 컴퓨터 시뮬레이션 데이터 포인트를 맞추기 위해 가우스 프로세스 모델을 사용하고 있습니다. 컴퓨터 시뮬레이션은 결정론적 시스템이므로 동일한 입력을 사용해도 응답이 변경되지 않습니다. 공간을 채우는 Fast Flexable Filling 디자인을 사용하여 테이블을 생성했습니다. 7개의 서로 다른 요인이 있으며 그 중 3개는 범주형으로 입력되고 나머지 4개는 연속형입니다.문제는 훈련 설계의 규모에 관계없이 생성된 예측 방정식이 또 다른 몇백 번의 실행으로 구성된 검증 세트에 대해 테스트할 때 그다지 정확하지 않다는 것입니다. 피팅에 사용된 훈련 세트의 오류는 1% 미만이지만 검증 세트의 오류는 최대 4.5%까지 높을 수 있습니다. 나는 최대 1-1.5%의 오류를 피하려고 합니다.
또한 반응 표면 모델 효과가 있는 Fit Model을 사용해 보았고 요인을 몇 번 더 교차한 후 실제 대 예측 플롯이 거의 완벽한 45도 각도가 되었지만 예측 방정식도 그다지 정확하지 않습니다. 가우스 모델은 컴퓨터 시뮬레이션 데이터에 가장 적합한 선택으로 간주됩니다.
가우시안 모델에 어떤 한계가 있는지 아는 사람이 있나요? 내 1~1.5% 오류가 너무 비현실적인가요? 검증 데이터 세트는 동일한 방식으로 생성되며 빠르고 유연하게 채워집니다. 검증 데이터에서 눈에 띄는 특이한 점은 없습니다. 오류가 4%인 많은 포인트에는 오류가 1% 미만인 다른 데이터 포인트와 매우 유사한 요인 값이 있습니다. 나는 가우시안 모델이 수행하는 스무딩 핏을 사용하면 방정식이 모든 것을 매우 잘 예측할 것이라고 생각합니다.
또한 그것이 얼마나 중요한지는 잘 모르겠지만 표준 JMP 버전 12를 사용하고 있습니다. JMP Pro의 가우스 모델이 더 강력합니까? JMP보다 가우스 모델링을 더 잘 처리할 수 있는 다른 통계 분석 소프트웨어 패키지가 있습니까?
도움을 주셔서 감사합니다. 감사합니다!
Re: 가우스 모델 예측 방정식이 매우 정확하지 않습니다.답변해 주셔서 감사합니다, billw@JMP.
도움말 섹션의 책을 살펴봤지만 상관 함수에 대한 설명이 매우 간단합니다.
어떤 상관 구조를 사용하든 가우시안 프로세스 모델은 항상 설계 포인트를 완벽하게 보간한다고 생각했습니다. 분명히 이것은 가우스 상관 구조의 경우는 아니지만 도움말 섹션 책에서 이에 대한 명확한 설명을 찾을 수 없었습니다. 이를 명확히 하기 위해 다른 출처를 조사하겠습니다.
당신의 도움을 주셔서 감사합니다!
Re: 가우스 모델 예측 방정식이 그다지 정확하지 않습니다.크린,
도움말 아래의 도서 섹션과 가우시안과 큐빅의 차이점에 대한 더 명확한 설명을 참조하겠습니다.아래는 제가 그곳에서 발견한 몇 가지 사항입니다.
참고: 추정된 매개변수는 시작 지점이 다르기 때문에 다를 수 있습니다.
최소화 루틴, 상관 유형 선택, 너겟 매개변수 포함 등이 있습니다.
상관 유형 모델의 상관 구조를 선택합니다. 플랫폼은 공간에 적합하다
데이터에 대한 상관관계 모델, 여기서 두 가지 응답 사이의 상관관계
독립변수의 값이 멀어질수록 관측치는 감소합니다.
가우스는 두 점 사이의 상관관계를 항상 0이 아닌 값으로 제한합니다.
점 사이의 거리.
큐빅을 사용하면 두 점 사이의 상관관계가 충분히 멀리 있는 점에 대해 0이 될 수 있습니다.
따로. 이 방법은 3차 스플라인을 일반화한 것입니다.
HTH
Re: 가우스 모델 예측 방정식이 매우 정확하지 않습니다.안녕하세요 여러분,
이번 포스팅과 관련하여 질문이 있습니다. 저는 라틴 하이퍼큐브 디자인을 설정하고 가우스 프로세스를 피팅하고 있습니다. 가우시안 상관 구조와 큐빅 상관 구조를 모두 비교하고 설계 지점의 예측 값을 각 지점의 시뮬레이션 값과 비교할 때 이러한 값은 3차 보간 함수에서는 정확히 동일하지만 가우스에서는 그렇지 않습니다. 이것은 bllw@jmp의 게시물에서와 같이 편견으로 설명됩니까? 아니면 반올림 오류로 인한 것입니까? 이론적으로 두 가지 유형의 상관 함수 모두에 대해 완벽한 보간이 있어야 합니다. 아니면 제가 틀렸습니까?
어떤 도움이라도 주시면 감사하겠습니다!
Re: 가우스 모델 예측 방정식이 매우 정확하지 않습니다.Ian의 답변에 덧붙이자면, 모든 포인트가 가우시안 프로세스에 완벽하게 들어맞음에도 불구하고 여전히 무작위 변형처럼 보이는 편향이 있을 수 있습니다.실제 잭나이프 예측 플롯을 보면 데이터에 얼마나 많은 편향이 있는지 파악할 수 있습니다.플롯의 왼쪽 하단 모서리와 오른쪽 상단 모서리 사이에 선을 그립니다.데이터가 해당 선 주위에 촘촘할수록 데이터에 대한 편향이 낮아집니다.
신경망(NN)은 컴퓨터 실험을 위한 대리 모델을 구축할 때도 매우 유용합니다.Tan H 활성화 함수를 사용하여 여러 수준의 숨겨진 노드를 살펴보세요.주의 사항을 말씀드리자면, 모델을 실행할 때 임의의 시드를 설정하지 않으면 동일한 모델을 실행할 때마다 다른 결과를 얻게 됩니다.아래 링크에서 무작위 시드 재설정 추가 기능을 확인하세요.
무작위 시드 재설정
Re: 가우스 모델 예측 방정식이 매우 정확하지 않습니다.(아마도 나는 당신이 이미 알고 있는 내용을 말하지 않을 것입니다.)
나는 Brad의 훌륭한 강연을 확인하고 싶습니다:
https://community.jmp.com/videos/1277
설계상 GP(가우시안 프로세스)는 "데이터를 보간"하므로 예측 값은 실행이 있는 요인 공간의 각 지점에서 시뮬레이션되거나 계산된('측정된') 값과 항상 일치합니다. 따라서 초점은 과적합('신호'와 '잡음' 사이의 올바른 균형을 얻는 것)을 방지하기 위해 검증을 사용하는 것에서 GP가 특정 지점에 합리적으로 보간하는 능력(또는 기타...)으로 이동합니다. 달리기가 없습니다.
이를 바탕으로 훈련 세트의 오류는 (거의) 0이고 검증 세트의 오류는 더 클 것으로 예상됩니다. 잠재적으로 훨씬 더 클 것입니다. 또한 GP는 연속형 요인에만 적합할 것이라고 생각했기 때문에 범주형 요인을 어떻게 처리했는지 잘 모르겠습니다.
