가우시안 프로세스에 대한 경고 메시지: 가능도 추정 알고리즘이 수렴하지 않았습니다.JMP 전문가 여러분께,
최근 700회 실행으로 라틴 하이퍼큐브 설계를 사용한 공간 채움 실험 설계(DOE)를 수행했습니다. 그런 다음 가우시안 프로세스를 사용하여 데이터를 피팅했습니다. '실제값 대 예측값 플롯'은 매우 보기 좋았고 대부분의 데이터가 45도 선을 따라 완벽하게 정렬되었습니다. 그러나 다음과 같은 경고 메시지가 나타났습니다.
경고: 가능도 추정 알고리즘이 수렴하지 않았습니다.
첨부된 가우시안 프로세스 모델 보고서를 참조해 주십시오.
제가 찾아봤지만 이 경고 메시지에 대한 문서나 논의를 찾을 수 없었습니다.
조언을 좀 해주시겠어요?
-이 메시지가 나타나는 원인은 무엇입니까?
-이 메시지는 무슨 뜻인가요?
-결과를 여전히 신뢰할 수 있을까요? 만약 그렇지 않다면, 모델을 수정하려면 어떻게 해야 할까요?
감사합니다.
진심으로 감사드립니다.
년도
고급 통계 모델링콘텐츠 구성데이터 탐색 및 시각화실험 설계Re: Gaussian Process에 대한 경고 메시지: 가능성 추정 알고리즘이 수렴하지 않았습니다.airgap2를 제거하는 것은 어떻습니까? 그 후 -2Loglikelihood는 얼마나 변경되고 예측은 얼마나 변경됩니까?
모델 피팅 방법은 최대 가능성입니다. 표면에서 최대값을 찾는 최적화 기법입니다. 이상적으로는 추정치가 표면이 꼭대기에 도달하는 위치입니다. 이 경고 메시지가 표시되면 일반적으로 알고리즘이 정상에 도달했는지 확신하지 못한다는 의미입니다. 반드시 그렇지는 않다는 것을 의미하지는 않습니다. 여기에서는 모델에 거의 기여하지 않는 airgap2로 인해 정상에 도달한 것으로 의심되지만 확실하지 않습니다.
Re: Gaussian Process에 대한 경고 메시지: 가능성 추정 알고리즘이 수렴하지 않았습니다.신속한 답변에 감사드립니다. 모델 피팅 방법에 대해 조금 더 자세히 설명해 주시겠습니까?
내 DOE에는 700개의 치료가 있습니다. 각 처리에 대해 알고리즘이 표면에서 최대값을 찾으려는 것을 의미합니까?
당신이 말하는 이 표면은 무엇입니까?
고맙습니다.
Re: Gaussian Process에 대한 경고 메시지: 가능성 추정 알고리즘이 수렴하지 않았습니다.귀하의 경우 각 치료는 관찰입니다. 모든 700회 치료가 데이터를 형성합니다. GP 모델은 매개변수가 주어진 데이터를 관찰할 확률의 정의를 기반으로 합니다. 이 확률은 알 수 없는 매개변수의 함수입니다. 이 함수를 우도 함수라고 합니다. 이 기능은 매개변수로 정의된 좌표계의 표면으로 시각화할 수 있습니다. 따라서 표면은 하나뿐입니다. 최대 가능성 방법은 이 표면에서 가장 높은 위치를 식별하려고 시도합니다.
다음은 접근 가능하고 엄격하다고 생각되는 자료에 대한 링크입니다. 최대 가능성 추정 그리고 예제 1-1은 건너뛸 수 있습니다.
GP 모델의 정의는 다음에서 찾을 수 있습니다. 가우스 프로세스 플랫폼에 대한 통계적 세부사항 느슨하게 말해서 GP 모델은 데이터가 다변량 정규 분포에서 가져온 것이라고 가정합니다. 이러한 정보로 우도 함수가 정의됩니다.
Re: Gaussian Process에 대한 경고 메시지: 가능성 추정 알고리즘이 수렴하지 않았습니다.매우 유익한 답변을 해주셔서 감사합니다!
실례가 되지 않는다면 예측 공식과 잭나이프 예측 값의 차이점도 설명해 주시겠습니까?
실제 예측에 의한 플롯이 예측 공식에 의해 예측된 값 대신 잭나이프 예측 값에 대해 실제 값을 표시한 이유는 무엇입니까?
또한, 너깃을 사용하지 않고 예측식의 예측값이 실제 시뮬레이션 데이터와 정확히 동일한가? 어떻게 작동합니까?
GP 예측에 대한 예측 분산 프로파일(요인 설계 DOE의 '설계 평가' 탭에 있는 프로파일)은 어떻게 생겼습니까? 랜덤인가요?
GP 모델을 검증하는 방법이 있습니까? 나는 일반적으로 수백 개의 추가 포인트를 실행하고 원래 데이터 세트(예측 값 - 시뮬레이션 값)와 검증 데이터 세트(예상 값 - 시뮬레이션 값) 간의 잔차에 대한 테스트 및 이분산 테스트에서 수행합니다. 이 접근 방식이 GP 모델에 여전히 유효합니까?
고맙습니다.
Re: Gaussian Process에 대한 경고 메시지: 가능성 추정 알고리즘이 수렴하지 않았습니다.예측(너겟 피팅 없이 모든 데이터 사용)은 해당 관찰과 같아야 합니다. 이것이 GP 모델의 특성입니다. 이 유형의 예측 값과 실제 값을 비교하면 직선을 얻을 수 있으므로 새 데이터에 대한 모델의 성능에 대한 통찰력을 얻을 수 없습니다. 잭나이프( 잭나이프 리샘플링 ) 예측은 해당 관찰을 제외하여 각 관찰에 대해 예측합니다. Jackknife GP 모델은 하나를 제외하고 나머지 모든 관찰에 완벽하게 맞습니다. 이 접근 방식은 모델이 새 데이터에 대해 수행하는 방식에 대한 통찰력을 제공합니다. 따라서 그들은 다릅니다.
너겟이 없으면 바닐라 GP 모델로 돌아갑니다. "이것이 어떻게 작동합니까?"가 무엇을 의미하는지 잘 모르겠습니다. 너겟을 사용하면 다음 기술을 살펴볼 수 있습니다. 능선 회귀 내가 언급했듯이 모델은 다변량 정규 분포를 가정하고 작업은 릿지 기법과 같은 트릭 없이는 때때로 어려울 수 있는 공분산 구조를 파악하는 것입니다.
DOE 플랫폼의 응용 프로그램에 익숙하지 않습니다. 관심 있는 특정 보고서를 얻기 위한 단계와 같이 자세히 설명할 수 있다면 추가로 도움을 드릴 수 있습니다. 다른 커뮤니티 회원이 답변할 수 있는지 확인하고 싶을 수 있습니다. 잠시 동안 답변이 표시되지 않으면 해당 특정 질문에 대해 별도의 스레드를 여는 것이 좋습니다.
GP 모델의 유효성 검사에 대해 잘 모르겠습니다. 그러나 확실히 우리는 새로운 데이터에 대한 성능을 평가할 수 있습니다. 이를 수행하는 한 가지 방법은 새 관찰이 예측 구간 내에 있는지 확인하는 것입니다. 그렇게 하려면 예측 및 분산 공식을 저장한 다음 새 데이터를 테이블 맨 아래에 추가합니다. 공식은 예측 및 분산을 생성하기 위해 평가됩니다. 관찰, 예측, 예측 분산, 나머지는 z-검정 연습입니다. 그리고 이 맥락에서 등분산이 관련이 있는지 확실하지 않습니다.
Re: Gaussian Process에 대한 경고 메시지: 가능성 추정 알고리즘이 수렴하지 않았습니다.매우 유익한 답변에 다시 한 번 감사드립니다.
모델 유효성 검사와 관련하여 여전히 몇 가지 질문이 있습니다.
원본 데이터 세트(처음 700개 포인트) 및 유효성 검사 데이터 세트(마지막 300개 포인트)와 함께 회신에 JMP 파일을 첨부했습니다.
나는 일반적으로 두 데이터 세트에 대한 예측 값과 실제 시뮬레이션 결과 간의 차이를 계산하고 테스트에서 두 데이터 세트의 차이가 동일한 평균을 갖는지 확인합니다. 이 특정 데이터 세트의 경우 t 테스트는 두 데이터 세트의 차이가 통계적으로 다르지 않음을 알려줍니다.
그러나 두 데이터 세트의 예측 분산 공식을 사용하여 분산을 테스트하기 위해 귀하의 방법을 시도했을 때 분산의 평균이 통계적으로 다르다고 알려줍니다.
모델의 예측 능력을 검증하는 방법으로 옳은 것은?
고맙습니다.
Re: Gaussian Process에 대한 경고 메시지: 가능성 추정 알고리즘이 수렴하지 않았습니다.나는 내 접근 단계를 설명하지 않았습니다. 여기에서 설명하기 위해 귀하의 데이터를 사용합니다.
먼저 새 열을 만듭니다.
이것은 예측된 표준 오차입니다.
이제 "6sigma"라고 부르는 다른 열을 만듭니다. 차이의 절대값이 6-sigma 이내인지 확인하기 위한 지표 컬럼입니다. 예는 1, 아니요는 0을 의미합니다. 훈련 행의 경우 결측값을 할당하십시오. 열 유형이 범주형인지 확인하십시오.
이제 유효성 검사 행을 제외 해제합니다. 그리고 배포판을 실행합니다.
대략 95%가 예라고 봅니다. 이것은 모델이 좋은 일을 하고 있다는 것을 말해줍니다.
Re: Gaussian Process에 대한 경고 메시지: 가능성 추정 알고리즘이 수렴하지 않았습니다.접근 방식을 자세히 설명해 주셔서 감사합니다. 대단해.
JMP에서 if 함수를 해석하는 방법을 잘 모르겠습니다. 친절하게 설명해 주시겠습니까? 그건 "." 방정식의 첫 번째 행에서 -> 뒤에? 그게 무슨 뜻이야?
훈련 행에 '결측'을 할당하는 방법은 무엇입니까?
95%가 모델이 잘 하고 있다고 말합니다. 그러한 판단의 기준은 무엇입니까?
답장에 모델 평가가 포함된 파일을 첨부해 주시겠습니까?
고맙습니다.
Re: Gaussian Process에 대한 경고 메시지: 가능성 추정 알고리즘이 수렴하지 않았습니다.여기에서 IF 함수에 대한 구문을 찾을 수 있습니다. 만약에 . 또는 JMP 스크립팅 언어를 배우는 데 어려움을 겪고 있다면 여기에서 시작할 수 있습니다. 스크립팅 가이드 .
내가 보여준 If 문은 다음과 같이 읽을 수 있습니다. 행 번호가 700보다 작거나 같으면 결측값을 할당하고, 그렇지 않으면 차이의 절대값이 3 표준 오차 미만인지 여부에 따라 1 또는 0을 할당합니다.
즉, 공식은 예측 오차가 6 표준 오차 이내인지 또는 6 시그마라고 부르는지를 계산합니다.
모델이 잘하고 있다는 말은 주관적이었다. 그러나 나는 내가 의미하는 바를 설명 할 것입니다. 예측 오류에 정규 분포가 있는 경우 6시그마는 확률의 99% 이상을 유지하는 분포의 중간 부분을 괄호로 묶습니다. 99% 이상의 확률로 예측 오류가 이 버킷에 포함되기를 바랍니다. 그런 다음 모델이 제 역할을 하고 있다고 말합니다.
이제 이 특정 데이터의 경우 유효성 검사 세트는 약 300개의 관측값이며 약 95%가 이 버킷에 포함됩니다. 나쁜 소식? 반드시는 아닙니다. 99% 확률에 대한 나의 이전 진술은 더 많은 검증 데이터가 테스트될 수 있다고 가정했고 우리는 99% 이상의 확률을 보고 싶습니다. 300번의 관찰만 95%로 주관적인 판단입니다. 80%, 70%, 60%를 보면 점점 의심이 갑니다.
요청하신대로 파일을 첨부합니다.
