説明可能AIとは？
せつめいかのうえーあい
説明可能AIとは、AIがどのような根拠で判断・予測を行ったかを人間が理解できる形で示す技術や設計思想のことです。
説明可能AI（Explainable AI、XAI）とは、機械学習モデルが出力した結果について、その判断根拠や推論過程を人間にわかりやすく提示することを目的とした技術・手法・設計思想の総称です。
深層学習をはじめとする高精度なAIモデルは一般に「ブラックボックス」と呼ばれ、なぜその出力が得られたかが不透明なことが多くあります。医療診断・金融審査・採用選考など人の生活に大きく影響する分野では、判断根拠の透明性が倫理的・法的に求められます。
代表的な説明可能AI手法には次のようなものがあります。
- LIME：入力を少し変えて局所的な線形モデルで近似し、どの特徴量が重要かを説明する
- SHAP：ゲーム理論のシャープレイ値を用いて各特徴量の貢献度を数値化する
- Grad-CAM：画像認識モデルが注目した領域をヒートマップで可視化する
- アテンション可視化：自然言語処理モデルがどの単語に着目したかを示す
EU一般データ保護規則（GDPR）や日本の各種ガイドラインでもAIの説明責任が議論されており、信頼性の高いAI社会の実現に向けて説明可能AIの重要性は増しています。
使い方・例文
ローン審査でAIが申し込みを否決した際、「収入に対して借入総額が大きいこと」「過去の延滞履歴」が主な要因だとSHAPの結果として利用者に提示される、といった場面で登場します。
この用語をシェア
最終更新: