グラジェントブースティングとは？
ぐらじぇんとぶーすてぃんぐ
グラジェントブースティングとは、複数の弱い予測モデル（主に決定木）を順番に積み上げ、前のモデルの誤差を勾配降下法で修正しながら精度を高めていく機械学習の手法です。
グラジェントブースティング（Gradient Boosting）とは、複数の弱学習器を逐次的に組み合わせて強力な予測モデルを構築するアンサンブル学習の一種です。「ブースティング」は複数の弱いモデルを直列に積み上げる手法を指し、「グラジェント（勾配）」は各ステップで損失関数の勾配（誤差の方向）を利用することから名付けられています。
学習の流れは以下の通りです。
- 最初に単純なモデル（例：浅い決定木）で予測を行い、残差（誤差）を計算する。
- 次のモデルがその残差を予測するよう学習し、前モデルの予測に加算する。
- この操作を設定した回数だけ繰り返し、全モデルの予測を合算して最終予測とする。
代表的な実装としてXGBoost・LightGBM・CatBoostがあり、これらは処理速度や正則化・カテゴリ変数の扱いを大幅に改善しています。特に表形式データに対して高い精度を発揮し、データサイエンスコンペティション（Kaggleなど）でも広く採用されています。
一方で、ハイパーパラメータの調整が必要で過学習しやすいという側面もあり、学習率・木の深さ・反復回数などのチューニングが重要です。
使い方・例文
「顧客の離脱予測モデルにLightGBMによるグラジェントブースティングを採用したところ、ロジスティック回帰より精度が大幅に向上した」という形で、機械学習プロジェクトの文脈で登場します。
この用語をシェア
最終更新: