リッジ回帰とは?
りっじかいき
リッジ回帰とは、過学習を防ぐために係数の大きさを正則化項で制約した線形回帰の手法です。
リッジ回帰(Ridge Regression)は、通常の線形回帰にL2正則化(Ridge正則化)を加えた統計・機械学習の手法です。通常の最小二乗法では、説明変数の数が多かったり多重共線性(説明変数間の強い相関)が存在したりすると、係数が非常に大きな値になり過学習が起きやすくなります。リッジ回帰はこの問題を解決するために開発されました。
仕組みとして、リッジ回帰は損失関数に係数の二乗和をペナルティとして加えます。このペナルティの強さはハイパーパラメータ λ(ラムダ)で制御され、λが大きいほど係数は0に近い小さな値に縮小されます。ただし、完全に0にはならない点がL1正則化(Lasso回帰)との主な違いです。
リッジ回帰の利点と特性をまとめると次のとおりです。
- 多重共線性がある場合でも安定した係数推定ができる
- すべての特徴量の係数を保持したまま小さく圧縮する
- 解析的な閉形式解が存在し計算効率が良い
- λのチューニングには交差検証が一般的に使われる
医療データや金融データのように特徴量が多く相関関係が複雑なデータ分析において、リッジ回帰は予測精度と解釈性のバランスを取るための基本手法として広く活用されています。
使い方・例文
多数の特徴量を持つ住宅価格予測モデルで、多重共線性の影響を抑えながら安定した回帰係数を得るためにリッジ回帰が用いられます。
この用語をシェア
最終更新: