Was hat diese Wunschlistenanfrage inspiriert? SHAP-Werte sind für die Erklärung von ML-Modellen von unschätzbarem Wert.
Welche Verbesserung würden Sie sich wünschen?Der Erfinder der SHAP-Werte, Scott Lundberg, hat einen Artikel über „Consistent Individualized Feature Attribution for Tree Ensembles“ veröffentlicht. Darin heißt es: „SHAP-Interaktionswerte können als Differenz zwischen den A interpretiert werden. SHAP-Werte für Merkmal i, wenn Merkmal j vorhanden ist, und B. die SHAP-Werte für Merkmal i, wenn Merkmal j nicht vorhanden ist.
Warum ist diese Idee wichtig?Ich habe die Erfahrung gemacht, dass die meisten Mitarbeiter vor der Modellierung fragen, ob Wechselwirkungen zwischen Faktoren untersucht werden können.Erklärbares ML ist der Schlüssel zur Modellakzeptanz, und offensichtlich werden ML-Modelle dort eingesetzt, wo der Verdacht besteht, dass Nichtlinearität vorherrscht (ansonsten wäre eine Regression ausreichend).
