SHAPとは？

SHAP（SHapley Additive exPlanations）は、機械学習モデルの予測結果を説明するための手法で、ゲーム理論のシャープレイ値（Shapley value）を機械学習に応用したものです。2017年にScott LundbergとSu-In Leeによって発表されました。

機械学習モデル、特にブラックボックスとなりやすい勾配ブースティングやニューラルネットワークでは、「なぜそのような予測が出たのか」が分かりにくいという課題があります。SHAPはこの課題に対して、各入力特徴量が予測値に対してプラス・マイナスどれだけ貢献しているかを定量的に示します。

SHAPの主な特徴と利点は以下の通りです。

• 理論的な公正性：シャープレイ値に基づくため、貢献度の分配が数学的に保証されている
• モデル非依存：原理的にはあらゆる機械学習モデルに適用できる（ただし実装上の近似がある）
• 個別・全体の両方を説明：1件の予測の説明（ローカル説明）と、全データを通じた特徴重要度の把握（グローバル説明）の両方が可能
• 豊富な可視化：ウォーターフォールチャート・ビープロット（bee swarm plot）などで直感的に理解しやすい

SHAPはXAI（説明可能なAI）の代表的な手法として、医療診断支援・金融の与信判断・人事評価など、モデルの透明性が求められる分野で広く活用されています。Pythonのshapライブラリを使えばXGBoost・LightGBM・CatBoost・scikit-learnのモデルなどに対して容易に適用できます。