バックプロパゲーションとは？
ばっくぷろぱげーしょん
バックプロパゲーションとは、ニューラルネットワークの学習において、出力の誤差を逆向きに伝播させて各パラメーターを更新するアルゴリズムのことです。
バックプロパゲーション（Backpropagation、誤差逆伝播法）は、深層学習（ディープラーニング）を含むニューラルネットワークの訓練において最も基本的かつ重要なアルゴリズムです。ネットワークが出力した予測値と正解値の誤差を、出力層から入力層に向かって逆向きに伝播させながら、各層の重み（パラメーター）を更新します。
仕組みのステップは以下のとおりです。
- 順伝播（フォワードパス）：入力データをネットワークに流し、予測値を計算する
- 損失関数の計算：予測値と正解値の差（誤差）を損失関数（例：平均二乗誤差・交差エントロピー）で数値化する
- 誤差の逆伝播：連鎖律（チェインルール）を使って各パラメーターに対する損失関数の勾配（偏微分）を出力層から順番に計算する
- パラメーターの更新：確率的勾配降下法（SGD）やAdamなどの最適化アルゴリズムで重みを更新し、誤差を小さくする
歴史と意義として、バックプロパゲーションのアイデアは1970年代から存在していましたが、1986年にラメルハート、ヒントン、ウィリアムズが論文で広く普及させました。このアルゴリズムなしに現代の画像認識・自然言語処理・音声認識などの深層学習技術は存在しなかったといえるほど根本的な技術です。
課題として、勾配消失問題（深いネットワークで勾配がほぼゼロになる）が知られており、ReLU活性化関数やバッチ正規化などの技術で対策されています。
使い方・例文
画像分類モデルが犬と猫を間違えたとき、その誤りを数値化して各ニューロンの接続の強さ（重み）をどう修正すべきか計算するのがバックプロパゲーションの役割です。
この用語をシェア
最終更新: