SHAP 분석 및 SHAP 그래프 빌더안녕하세요 여러분,
저는 JMP 커뮤니티에서 SHAP 값에 대해 검색했고, 누군가가 JMP Pro 17을 사용하여 SHAP 값을 평가하는 방법에 대한 리소스를 안내해 줄 수 있을지 궁금합니다. 저는 SHAP 값을 채우는 방법(예측 프로파일러에서)을 이해하지만, 그래프를 만드는 것은 그 시점에서 약간 혼란스럽습니다. 저는 그래프 빌더를 사용하여 그래프를 만들었지만, SHAP 값으로 할 수 있는 분석 유형에 대한 비디오나 가이드가 있는지, 그리고 SHAP 플랫폼에서 그래프를 자동으로 만드는 방법이 있는지 궁금합니다.
시간을 내어 답변해 주셔서 감사합니다.
감사합니다,
니샤
고급 통계 모델링기본 데이터 분석 및 모델링예측 모델링 및 머신 러닝윈도우Re: SHAP 분석 및 SHAP 그래프 빌더Shapley 값은 Profiler 에서 사용할 수 있습니다.
Re: SHAP 분석 및 SHAP 그래프 빌더데이터 테이블에 셰이플리 값을 추가하면 그래프를 생성하는 테이블 스크립트도 함께 제공됩니다.
원할 경우 유형을 변경할 수 있습니다(기본값인 누적 막대형 차트, 누적 선 차트, 누적 영역형 차트는 모두 어느 정도 수준에서 작동합니다).
데이터를 쌓아서 시각화할 수도 있습니다. 데이터에 각 행에 대한 고유 식별자가 없는 경우 하나를 만든 다음 모양 열을 쌓아서 해당 고유 열을 유지할 수 있습니다. 데이터를 쌓은 후에는 예를 들어 약간 다른 모양의 플롯을 만들 수 있습니다.
마크가 제공한 링크에는 JMP의 셰이플리 값에 대한 정보와 확인할 수 있는 몇 가지 소스가 있습니다.
Shapley Values: Explaining Individual Predicted Probabilities 및 Explainable AI: Unboxing the Blackbox(2022-US-45MP-1147) 도 있습니다.
Re: SHAP 분석 및 SHAP 그래프 빌더@Mark_Bailey 감사합니다! 저는 이전에 가이드를 살펴봤지만, 다양한 유형의 그래프를 만드는 데 필요한 프로세스와 해당 그래프를 평가/해석하는 방법에 대한 자세한 내용은 제공하지 않았습니다. 제가 찾고 있는 내용입니다. 링크를 공유해 주셔서 감사합니다.
Re: SHAP 분석 및 SHAP 그래프 빌더jthi
@jthi 님, 답장 주셔서 감사합니다. 저는 예측 프로파일러를 가지고 데이터 테이블의 셰이프 값을 계산하고 그래프를 만드는 데 시간을 조금 들였습니다. 하지만 다음과 같은 문제에 부딪혔고, 아래의 질문에 답하는 데 도움이 될 수 있는 더 많은 통찰력을 제공하거나 리소스를 공유할 수 있을지 궁금합니다.
1) 저는 총 3개의 모델을 평가하고 있는데, 그 중 하나는 스모트 플러스 토멕 샘플링 방법을 적용한 부스트 트리입니다.
첨부된 데이터 하위 집합을 확인하세요(데이터가 크기 때문에 하위 집합을 첨부합니다). 예측 프로파일러에서 셰이플리 값을 실행했지만 데이터 시트에서 새로 계산된 셰이플리 값을 볼 수 없었습니다. 또한 데이터 테이블에 셰이플리 스크립트를 추가하도록 선택했지만 데이터 테이블에 추가된 것을 볼 수 없었습니다. 부스트된 트리에서 이것을 할 수 있는지 궁금합니다. 일반화 회귀에서는 이것을 할 수 있었지만 일반화 회귀에 대한 k 폴드 교차 검증을 만들 필요가 없었습니다. 부스트된 트리에서는 그렇게 해야 했습니다. 부스트된 트리에서 셰이플리 값을 옵션으로 사용하면 데이터 테이블에서 계산된 셰이플리 값을 볼 수 있어야 한다고 생각합니다. 데이터 테이블에서 계산된 셰이플리 값을 볼 수 없는 이유를 알아내는 데 약간의 통찰력이 도움이 될 것입니다.
2. 출력된 그래프 유형을 변경하려면 어떻게 해야 하나요? 예를 들어, 위에서 출력으로 제시한 그래프 유형을 점선 그래프로 변경하려면 어떻게 해야 하나요? 오른쪽에서 선 그래프에서 점선 그래프로 변경하려면 무엇을 선택해야 하나요?
에게
(비디오) 링크에서 제공한 그래프의 출력은 표시되지만 해당 출력에 도달하는 단계는 표시되지 않습니다. 그래프 유형을 변경하는 방법에 대해 알려줄 수 있는지 궁금합니다. 무엇을 선택해야 할까요? 제어판에서 다른 유형의 그래프를 선택해야 할까요? 이렇게 하면 결과가 완전히 바뀝니다. 데이터 표의 하위 집합은 첨부된 것을 참조하세요. "원하는 경우 유형을 변경할 수 있습니다(기본값 누적 막대형 차트, 누적 선형 차트, 누적 영역형 차트는 모두 어느 정도 작동함)"라고 언급했는데, 기본 막대형 차트에서 선형 차트로 누적 그래프 유형을 변경하려면 어디로 가야 합니까?
시간을 내어 지침을 제공해 주셔서 감사합니다.
감사합니다,
니샤
Re: SHAP 분석 및 SHAP 그래프 빌더저는 다음 웹사이트에서 다양한 유형의 SHAP 플롯을 해석하는 방법의 예를 찾았습니다(모두를 포함하는 것은 아니지만). 다른 사람들에게 도움이 될 수도 있겠습니다.
https://www.aidancooper.co.uk/a-non-technical-guide-to-interpreting-shap-analyses/
Re: SHAP 분석 및 SHAP 그래프 빌더그래프에 대해 어떤 출력을 의미하는지 잘 모르겠습니다. 제공하신 두 번째 플롯은 shap 파이썬 패키지에서 온 것 같습니다. SHAP 설명서에 오신 것을 환영합니다. SHAP 최신 설명서 이며 JMP에서 온 것이 아닙니다(JMP에서 꽤 비슷한 것을 얻을 수 있지만 약간의 작업이 필요합니다). SHAP 설명서에는 데이터를 플롯하는 방법에 대한 아이디어를 사용할 수 있는 추가 예제도 있습니다.
그래프에 셰이플리 값을 넣은 후에는 JMP에서 유용하다고 생각되는 방식으로 사용할 수 있습니다. 일반적으로 스택하는 것이 가장 좋은 옵션이라고 생각합니다. 테이블 메뉴의 Stack Columns in Data Tables(jmp.com) 에서 스택 플랫폼을 찾을 수 있습니다. 셰이플리 값 열(+ 원하는 경우 피처 값과 행 식별자)을 스택한 다음 플로팅을 시작합니다. 저는 여전히 다른 형식을 유지할 것입니다. 두 형식 모두 장단점이 있기 때문입니다.
Re: SHAP 분석 및 SHAP 그래프 빌더안녕하세요 Jarmo @jthi 님 ,
두 번째 플롯에 대한 당신의 말이 맞아요. shap 파이썬 패키지에서 가져온 것이지만, 추가 예제를 위해 추천하신 SHAP 문서를 확인했고 데이터를 시각화하는 데 도움이 되는 것을 발견했습니다. 스택 열을 사용하여 그래프를 만드는 지침을 제공해 주셔서 감사합니다(이것은 저에게는 처음이었고 이에 대해 더 알아보기 위해 더 탐구했습니다).
감사합니다,
니샤
