Sono consapevole che la capacità di generare interpretazioni Shapley è integrata in SAS Viya; qualcuno ha avuto successo nel generare questi valori in JMP? Ho un cliente che sta rimbalzando tra NN in Pro e Python per creare un modello, quindi generare valori SHAP ma vorrei eseguire questa interpretazione in modo nativo in JMP o tramite un componente aggiuntivo. Qualcuno ha provato questo? È possibile?
Nel caso di un modello di regressione lineare (solo effetti principali, nessuna interazione o curvatura), penso che il valore Shapely sarebbe direttamente proporzionale alle stime della pendenza per i fattori nel modello.I valori Shapely sono una misura di "quanto ha contribuito ciascun fattore alla media dell'output").
Quando hai un modello più flessibile (con interazioni e/o curvatura, o qualcosa di più ondulato come una Rete Neurale), quello che devi fare è determinare l'effetto marginale medio del fattore (tenendo conto di tutti gli altri fattori).Sotto il profiler, è possibile creare grafici di questo effetto marginale medio stimato, utilizzando il grafico di importanza variabile, ma non riporta la tabella dei valori effettiva utilizzata per creare il grafico.
Suppongo che potresti crearlo manualmente utilizzando un output di simulazione dal Profiler, anche, con un riepilogo su ciascun fattore.
Se possono descrivere la metodologia che usano per determinare i valori di Shapely, potrebbe probabilmente essere uno script.
Grazie per i tuoi pensieri @SamGardner . Finora il cliente ha generato valori solo per un modello lineare ma non è sicuro di come farlo con un NN (sembra che lo stiano usando come documento guida per il loro calcolo: https://shap.readthedocs.io/en/latest/index.html ).
