LIMEとは？
らいむ
LIMEとは、ブラックボックスな機械学習モデルの個々の予測を、局所的に単純なモデルで近似して解釈可能にする手法です。
LIME（ライム、Local Interpretable Model-agnostic Explanations）とは、複雑な機械学習モデルの特定の予測について、その予測がなぜそうなったかを人間が理解できる形で説明する手法です。Ribeiro らが2016年に提案しました。
ディープラーニングやランダムフォレストなどのブラックボックスモデルは高い精度を持ちますが、なぜその予測をしたかが分かりにくいという問題があります。LIMEはこの解釈可能性の問題に取り組みます。
LIMEの仕組みは次のとおりです。
- 説明したい入力サンプルの周辺に摂動サンプルを生成する
- 元のブラックボックスモデルで各摂動サンプルの予測値を取得する
- 元のサンプルに近いほど重みを大きくして、局所的な線形モデルを当てはめる
- この線形モデルの係数から、各特徴量の寄与度を解釈する
LIMEはモデルに依存しない（model-agnostic）手法であり、分類・回帰・テキスト・画像など多様なデータ形式に適用できます。類似手法にSHAPがあり、LIMEより理論的に一貫性があるとされますが、LIMEはシンプルさと直感的な説明が特徴です。医療AIや金融の審査モデルなど、説明責任が求められる場面で利用されます。
使い方・例文
「LIMEを使って、ローン審査モデルがある申請者を否決した理由を、収入・負債比率・勤続年数などの特徴量への寄与として説明した」という形で使われます。
この用語をシェア
最終更新: