ラッソ回帰とは？
らっそかいき
機械学習・統計学において、不要な変数の係数をゼロに縮小することで変数選択と過学習防止を同時に行う正則化回帰手法です。
ラッソ回帰（LASSO: Least Absolute Shrinkage and Selection Operator）は、通常の最小二乗法に係数の絶対値の和（L1ノルム）をペナルティとして加えた回帰分析の手法です。1996年に統計学者ロバート・ティブシラーニによって提案されました。
通常の線形回帰では、訓練データへの当てはまりを最大化しようとするあまり、多数の説明変数を含む場合に過学習が起きやすくなります。ラッソ回帰は目的関数に正則化項 λΣ|βj| を加えることで、係数を強制的に縮小します。L1正則化の特徴は、係数がちょうどゼロになりやすい点です。これにより実質的な変数選択が自動的に行われます。
リッジ回帰（L2正則化）との比較でラッソ回帰の特徴を整理すると次のようになります。
- ラッソはスパース（疎）な解を生む。つまり多くの係数が厳密にゼロになる
- リッジはすべての係数を小さく縮めるが、ゼロにはしない
- ラッソは説明変数が多数ある高次元データで変数選択として有効
- ハイパーパラメータλを大きくするほど多くの変数が除外される
医療・ゲノム解析・テキスト分析など、変数の数がサンプル数より多いデータでよく活用されます。ElasticNetはラッソとリッジを組み合わせた手法です。
使い方・例文
数百の遺伝子発現量から病気の予後を予測するモデルを構築する際、ラッソ回帰を適用することで実際に予後と関連する少数の重要遺伝子だけを自動的に選び出す場面で使われます。
この用語をシェア
最終更新: