最大尤度推定とは?
さいだいゆうどすいてい
最大尤度推定とは、観測されたデータが得られる確率(尤度)を最大にするパラメータ値を推定値として採用する統計的推定法です。
最大尤度推定(Maximum Likelihood Estimation、MLE)は、統計学・機械学習で広く使われるパラメータ推定の手法です。「尤度(ゆうど)」とは、あるパラメータ値が与えられたもとで、実際に観測されたデータが得られる確率(または確率密度)のことを指します。最大尤度推定では、この尤度を最大にするパラメータを最良の推定値とみなします。
手順は以下のとおりです。
- モデルの確率分布(正規分布・ベルヌーイ分布など)を仮定する
- 観測データ全体の同時確率(尤度関数)をパラメータの式として表す
- 尤度関数、または計算を簡単にするためその対数(対数尤度)を最大化するパラメータを求める
対数をとっても最大化するパラメータは変わらず、積の形を和の形に変換できるため、実際の計算では対数尤度が用いられることがほとんどです。
最大尤度推定量は多くの場合、一致性・漸近正規性・漸近有効性といった望ましい統計的性質を持つことが知られています。また、最大尤度推定は事前分布を使わない頻度論的アプローチであり、事前情報を組み込むベイズ推定とは対照的な立場です。
正規分布の平均・分散の推定、ロジスティック回帰のパラメータ推定、ニューラルネットワークの学習(交差エントロピー損失の最小化)など、幅広い場面で活用されています。
使い方・例文
コインを100回投げて表が63回出たとき、表の出る確率パラメータを最大尤度推定すると0.63が得られます。機械学習モデルの学習もこの考え方を基盤としています。
この用語をシェア
最終更新: