ベイズ最適化とは?
べいずさいてきか
ベイズ最適化とは、評価コストが高い関数の最適解を少ない試行回数で効率よく探索するための、ベイズ統計に基づく最適化手法です。
ベイズ最適化(Bayesian Optimization)は、評価に時間やコストがかかるブラックボックス関数の最大値(または最小値)を、なるべく少ない実験・試行で見つけることを目的とした最適化アルゴリズムです。機械学習のハイパーパラメータ探索や、素材・薬品の配合比率最適化など、一回の評価に大きなコストがかかる場面で特に有効です。
アルゴリズムの核心は代理モデルと獲得関数の組み合わせにあります。
- 代理モデル:これまでの観測データをもとに、目的関数の形状を確率的に推定します。ガウス過程(GP)がよく使われ、各点での予測値と不確実性(分散)を同時に出力します。
- 獲得関数:代理モデルの予測を使い、「次にどの点を試すべきか」を決めます。期待改善量(EI)などの指標により、有望な領域と未探索の領域をバランスよく選択します。
この「観測→代理モデル更新→次の試行点を選択」というサイクルを繰り返すことで、グリッドサーチやランダムサーチと比べて大幅に少ない試行回数で良好な解に収束することが多いです。機械学習の文脈ではAutoMLやハイパーパラメータチューニングツール(Optuna、HyperOpt など)の内部手法として広く採用されています。
使い方・例文
ニューラルネットワークの学習率・バッチサイズ・層数をベイズ最適化で探索したところ、グリッドサーチの5分の1の試行回数でほぼ同等の精度を達成できました。
この用語をシェア
最終更新: