Soy consciente de que la capacidad de generar interpretaciones de Shapley está integrada en SAS Viya; ¿Alguien ha tenido éxito en generar estos valores en JMP? Tengo un cliente que está rebotando entre NN en Pro y Python para construir un modelo y luego generar valores SHAP, pero me gustaría realizar esta interpretación de forma nativa en JMP o mediante un complemento. ¿Alguien ha probado esto? ¿Es posible?
En el caso de un modelo de regresión lineal (solo efectos principales, sin interacciones ni curvatura), creo que el valor Shapely sería directamente proporcional a las estimaciones de pendiente para los factores del modelo.Los valores bien formados son una medida de "cuánto contribuyó cada factor a la media de salida").
Cuando tienes un modelo más flexible (con interacciones y / o curvatura, o algo más ondulado como una red neuronal), lo que tienes que hacer es determinar el efecto marginal promedio del factor (teniendo en cuenta todos los demás factores).En el generador de perfiles, puede crear gráficos de este efecto marginal promedio estimado, utilizando el gráfico de importancia variable, pero no informa la tabla real de valores utilizada para hacer el gráfico.
Supongo que podría crear esto manualmente utilizando una salida de simulación del Profiler, también, con un resumen de cada factor.
Si pueden describir la metodología que utilizan para determinar los valores de Shapely, probablemente podría ser un guión.
Gracias por tus pensamientos @SamGardner . Hasta ahora, el cliente ha generado valores solo para un modelo lineal, pero no está seguro de cómo hacerlo con un NN (parece que lo están usando como un documento guía para su cálculo: https://shap.readthedocs.io/en/latest/index.html ).
