このウィッシュリストリクエストのきっかけは何ですか? SHAP 値は、ML モデルを説明するのに非常に貴重です。
改善してほしいことは何ですか?SHAP 値の発明者である Scott Lundberg は、「Consistent Individualized Feature Attribution for Tree Ensembles」という論文を発表しています。 それは、「SHAP 相互作用値は、A 間の差異として解釈できる」と述べています。 特徴 j が存在する場合の特徴 i の SHAP 値、および B. 特徴 j が存在しない場合の特徴 i の SHAP 値。
この考え方がなぜ重要なのでしょうか?私の経験では、大多数の共同研究者はモデリングの前に、因子間の相互作用を調査できるかどうかを尋ねます。説明可能な ML はモデルが受け入れられるための鍵であり、明らかに ML モデルは非線形性が支配的であると疑われる場所にデプロイされます (そうでない場合は回帰で十分です)。
