最尤推定とは?
さいゆうすいてい
最尤推定とは、観測されたデータが得られる確率(尤度)を最大にするようなパラメータの値を求める統計的推定方法のことです。
最尤推定(さいゆうすいてい、Maximum Likelihood Estimation/MLE)は、統計学・機械学習で最も広く使われるパラメータ推定手法のひとつです。「最も尤(もっと)もらしい」という言葉が示すとおり、手元のデータを最もよく説明するようなモデルのパラメータを探し出します。
考え方の基本は次のとおりです。確率モデルがパラメータ θ(シータ)を持つとき、観測データ x が得られる確率(または確率密度)を「尤度関数 L(θ)」と呼びます。最尤推定では、この L(θ) を最大にする θ の値を推定量とします。計算の都合上、対数をとった「対数尤度関数」を最大化することが一般的です。
最尤推定の特徴をまとめると以下のようになります。
- 標本数が大きくなると真のパラメータに収束する(一致性)
- 推定量の分散が理論的な下限(クラメール・ラオの下限)に近づく(漸近有効性)
- 正規分布・二項分布・ポアソン分布など多くのモデルで解析的に解ける
- 複雑なモデルでは数値最適化(勾配降下法など)が必要になる
最尤推定は回帰分析・分類モデル・深層学習の損失関数設計など幅広い場面で利用されており、データサイエンスの基礎知識として欠かせない概念です。ベイズ推定と対比して語られることも多く、事前分布を考慮しない「頻度論的」アプローチの代表例とされます。
使い方・例文
コインを100回投げて60回表が出たとき、最尤推定によって「このコインの表が出る確率は0.6」と推定するのが典型的な例です。機械学習モデルの学習でも損失関数の最小化が最尤推定と等価になる場合があります。
この用語をシェア
最終更新: