Qu'est-ce qui a inspiré cette demande de liste de souhaits ? Les valeurs SHAP sont inestimables pour expliquer les modèles ML.
Quelle est l'amélioration que vous aimeriez voir?L'inventeur des valeurs SHAP, Scott Lundberg, a publié un article Consistent Individualized Feature Attribution for Tree Ensembles. Il dit "Les valeurs d'interaction SHAP peuvent être interprétées comme la différence entre le A. Valeurs SHAP pour la fonctionnalité i lorsque la fonctionnalité j est présente et B. les valeurs SHAP pour la fonctionnalité i lorsque la fonctionnalité j est absente. »
Pourquoi cette idée est-elle importante ?Mon expérience est qu'avant la modélisation, une majorité de collaborateurs demandent si les interactions entre les facteurs peuvent être étudiées.Le ML explicable est la clé de l'acceptation du modèle, et évidemment les modèles de ML sont déployés là où la non-linéarité est suspectée de dominer (sinon la régression serait suffisante).
