Qualcuno ha collegato con successo un processo di integrazione in Python per prendere ad esempio un modello generato JMP PRO (NN) e ha tentato di eseguire i valori SHAP sul modello?
Qualsiasi idea o codice Python per aiutare a superare la linea sarebbe molto apprezzato.
Ecco dell'ottima documentazione su SHAP
https://shap.readthedocs.io/en/latest/example_notebooks/overviews/An%20introduction%20to%20explainable%20AI%20with%20Shapley%20values.html
SHAP è indipendente dal modello, sto solo cercando di capire il codice specifico in cui incorporare i modelli generati da JMP
shap.KernelExplainer
funzione: più qui https://shap.readthedocs.io/en/latest/example_notebooks/tabular_examples/model_agnostic/Simple%20Kernel%20SHAP.html
SAS VIYA lo ha già integrato nel software, quindi sono ottimista che possiamo trovare una soluzione per incorporarlo in JMP a un certo punto come componente aggiuntivo.
https://www.sas.com/content/dam/SAS/support/en/sas-global-forum-proceedings/2020/4502-2020.pdf
Grazie!
