797903_it-IT

liliconcom

Analisi SHAP e generatore di grafici SHAP

Ciao a tutti,

Ho cercato nella community JMP informazioni sui valori SHAP e mi chiedevo se qualcuno potesse indirizzarmi ad alcune risorse su come valutare i valori SHAP usando JMP Pro 17. Ho capito come popolare i valori SHAP (dal profiler di previsione), ma creare i grafici è un po' complicato a questo punto. Ho usato il generatore di grafici per creare il grafico, ma mi chiedevo se ci fossero video o guide sui tipi di analisi che posso fare con i valori SHAP e se ci fosse un modo automatico per creare grafici dalla piattaforma SHAP.

Grazie per aver trovato il tempo di rispondermi.

Sinceramente,

Nisha

Modellazione statistica avanzataAnalisi e modellazione dei dati di baseModellazione predittiva e apprendimento automaticoFinestreRe: Analisi SHAP e generatore di grafici SHAP

I valori Shapley sono disponibili nel Profiler .

Re: Analisi SHAP e SHAP Graph Builder

Quando aggiungi valori Shapley alla tua tabella dati, otterrai anche uno script di tabella che crea un grafico per te

Se lo desideri, puoi modificare il tipo (grafico a barre impilate (predefinito), grafico a linee impilate, grafico ad aree impilate, tutti funzionano a un certo livello).

Potresti anche impilare i dati e visualizzarli. Se i tuoi dati non hanno un identificatore univoco per ogni riga, potresti volerne creare uno e quindi impilare le colonne shap e mantenere quella colonna univoca. Dopo aver impilato i tuoi dati, puoi creare grafici dall'aspetto un po' diverso, ad esempio

Il collegamento fornito da Mark contiene alcune informazioni sui valori Shapley in JMP e alcune fonti da consultare.

Sono disponibili anche Shapley Values: Explaining Individual Predicted Probabilities e Explainable AI: Unboxing the Blackbox (2022-US-45MP-1147)

Re: Analisi SHAP e generatore di grafici SHAP

Grazie @Mark_Bailey ! Ho già dato un'occhiata alla guida in precedenza, ma non forniva alcun dettaglio sul processo necessario per creare diversi tipi di grafici e su come valutare/interpretare tali grafici, che è ciò che sto cercando. Grazie per aver condiviso il link.

Re: Analisi SHAP e SHAP Graph Builder

Grazie per avermi risposto jthi @jthi . Ho impiegato un po' di tempo per giocare con il profiler di previsione per calcolare i valori shap sulla tabella dati e creare un grafico. Tuttavia, sto riscontrando i seguenti problemi e mi chiedo se sei in grado di fornire maggiori informazioni o condividere risorse che possano aiutare a rispondere alle mie domande di seguito:

1) Sto valutando un totale di tre modelli, uno dei quali è l'albero potenziato con il metodo di campionamento smote più tomek.

Si prega di vedere il sottoinsieme allegato dei dati (i dati sono grandi, quindi ne allego un sottoinsieme). Ho eseguito i valori Shapley sul profiler di previsione, ma non ho visto i nuovi valori Shapley calcolati sul foglio dati. Ho anche selezionato di aggiungere lo script Shapley alla tabella dati, ma non l'ho visto aggiunto alla tabella dati. Mi chiedo se è possibile farlo sull'albero potenziato. Sono stato in grado di farlo sulla regressione generalizzata, ma non ho dovuto creare la convalida incrociata k fold per la regressione generalizzata, ho dovuto farlo per l'albero potenziato. Presumo che con i valori Shapley come opzione sull'albero potenziato, dovrei essere in grado di vedere i valori Shapley calcolati sulla tabella dati. Qualche spunto sarà utile per cercare di capire perché non riesco a vedere i valori Shapley calcolati sulla tabella dati.

2. Come faccio a cambiare il tipo di grafico in uscita? Ad esempio, come faccio a cambiare il tipo di grafico che hai presentato come output sopra in grafico punteggiato? Cosa dovrei selezionare per cambiare da grafico lineare a grafico punteggiato sulla destra?

A

Nel link (video) che hai fornito, vengono mostrati gli output per i grafici, ma non i passaggi per arrivare a quegli output. Mi chiedevo se potessi darmi qualche informazione su come cambiare i tipi di grafici, cosa dovrei selezionare? È il pannello di controllo e poi selezionare i diversi tipi di grafici? Quando lo faccio, cambia totalmente il risultato. Si veda l'allegato per un sottoinsieme della tabella dati. Hai detto "Puoi cambiare il tipo se lo desideri (grafico a barre impilate (predefinito), grafico a linee impilate, grafico ad area impilate funzionano tutti a un certo livello)", dove devo andare per cambiare il tipo di grafico impilato dal grafico a barre predefinito al grafico a linee?

Grazie per aver dedicato del tempo a fornirci qualche dritta.

Grazie,

Nisha

Re: Analisi SHAP e SHAP Graph Builder

Ho trovato il seguente sito web che fornisce esempi di interpretazione di diversi tipi di grafici SHAP (anche se non esaustivi) e che potrebbe essere utile ad altri:

https://www.aidancooper.co.uk/a-non-technical-guide-to-interpreting-shap-analyses/

Re: Analisi SHAP e SHAP Graph Builder

Non sono sicuro di quali output intendi per grafici. Il secondo grafico che hai fornito sembra provenire dal pacchetto python shapBenvenuti alla documentazione SHAP — ultima documentazione SHAP e non da JMP (puoi ottenere qualcosa di abbastanza simile in JMP ma richiede un po' di lavoro). La documentazione SHAP ha anche esempi aggiuntivi che puoi usare per idee su come tracciare i tuoi dati.

Dopo aver inserito i valori Shapley nel grafico, puoi iniziare a usarli in qualsiasi modo tu ritenga utile in JMP. Di solito penso che impilarli sia l'opzione migliore, puoi trovare la piattaforma Stack dal menu Tabelle Stack Columns in Data Tables (jmp.com) . Impila le colonne dei valori Shapley (+ valore della feature e identificatore di riga se vuoi) e poi inizia a tracciare. Io manterrei comunque l'altro formato poiché entrambi hanno i loro pro e contro.

Re: Analisi SHAP e generatore di grafici SHAP

Ciao Jarmo @jthi ,

Hai ragione sul secondo grafico, è del pacchetto python shap, ma ho controllato la documentazione SHAP che hai consigliato per altri esempi e l'ho trovata utile per visualizzare i dati. Grazie per aver fornito le indicazioni per creare i grafici usando le colonne dello stack (è una novità per me e ho esplorato di più per saperne di più).

Grazie,

Nisha