Cosa ha ispirato questa richiesta di lista dei desideri? I valori SHAP sono inestimabili per spiegare i modelli ML.
Qual è il miglioramento che vorresti vedere?L'inventore dei valori SHAP, Scott Lundberg, ha un documento Attribuzione di caratteristiche individualizzate coerenti per gruppi di alberi. Dice "I valori di interazione SHAP possono essere interpretati come la differenza tra il formato A. Valori SHAP per la caratteristica i quando la caratteristica j è presente e B. i valori SHAP per la caratteristica i quando la caratteristica j è assente."
Perché questa idea è importante?La mia esperienza è che prima della modellazione, la maggior parte dei collaboratori chiede se è possibile indagare sulle interazioni tra i fattori.Il ML spiegabile è la chiave per l'accettazione del modello, e ovviamente i modelli ML vengono implementati dove si sospetta che la non linearità prevalga (altrimenti la regressione sarebbe sufficiente).
