過学習とは？
かがくしゅう
過学習とは、機械学習モデルが訓練データに適合しすぎて、未知のデータに対する予測精度が低下してしまう現象です。
過学習（オーバーフィッティング）は、機械学習・統計モデリングにおける代表的な問題のひとつです。モデルが訓練データのノイズや偶然のパターンまで「暗記」してしまうことで、訓練データ上では高い精度を示しながら、新しいデータには対応できない状態を指します。
過学習が起こりやすい条件として以下が挙げられます。
- モデルの複雑さ（パラメータ数）に対してデータ量が少ない
- 特徴量（説明変数）の数がサンプル数に比べて多い
- 正則化を行っていない
- 訓練を長期間続けすぎる（ニューラルネットワークなど）
対処法には、正則化（L1・L2正則化）、ドロップアウト、データ拡張、早期終了（Early Stopping）、クロスバリデーションによるモデル選択などがあります。
過学習の反対は「未学習（アンダーフィッティング）」で、モデルが単純すぎてデータのパターンを十分に学習できていない状態です。良いモデルはこの2つのバランスを取った「偏差と分散のトレードオフ」の最適点に位置します。機械学習の実務では、訓練データとテストデータの精度差を常に監視することで過学習の兆候を早期に発見します。
使い方・例文
訓練データで99%の精度を出したモデルが、実際の新規データでは70%しか正解できない場合、過学習が起きていると判断します。このような場面でデータの正則化やデータ拡張が検討されます。
この用語をシェア
最終更新: