XGBoostとは？
えっくすじーぶーすと
XGBoostとは、勾配ブースティングを高速・高精度に実装した機械学習ライブラリで、データ分析コンテストでも広く使われています。
XGBoost（Extreme Gradient Boosting）は、Tianqi Chenらが開発し2016年に論文発表した、勾配ブースティング決定木（GBDT）の実装フレームワークです。Python・R・Java・Scalaなど多くの言語で利用でき、オープンソースで提供されています。
勾配ブースティングは、複数の弱学習器（主に決定木）を順次加算して予測精度を高めるアンサンブル手法です。XGBoostはこれを以下の点で大幅に改善しました。
- 正則化項: 目的関数にL1・L2正則化を組み込み過学習を抑制
- 並列処理: ツリーの分岐探索を並列化し学習を高速化
- スパースデータ対応: 欠損値を効率的に処理するスパース認識アルゴリズム
- キャッシュ最適化: メモリアクセスパターンを工夫してCPU効率を向上
特に表形式（テーブル型）データの分類・回帰問題で非常に強力な性能を発揮し、KaggleなどのデータサイエンスコンペティションでXGBoostを用いたチームが多数優勝したことで世界的に普及しました。現在は後継の LightGBM・CatBoost とともに勾配ブースティング系の代表的ライブラリとして広く使われています。
使い方・例文
XGBoostは与信スコアリング・医療診断・広告クリック率予測など、ビジネス現場での予測モデル構築にも広く活用されています。
この用語をシェア
最終更新: