【G検定】最尤法とは？コイン投げの例で「もっともらしさ」を最大化する推定を解説

コインを10回投げて表が7回出たら、このコインの表が出る確率はいくつと見積もるのが自然でしょうか。直感どおり「0.7」と答えを出してくれるのが最尤法です。「観測されたデータが最も起こりやすくなるパラメータを選ぶ」という統計学の基本戦略で、深層学習の学習則にまでつながる重要概念を解説します。

📖 ひと言でいうと

最尤法(さいゆうほう)とは、手元の観測データが「最も起こりやすかった」と考えられるように、確率モデルのパラメータを推定する方法です。データが得られる確率をパラメータの関数と見たものを尤度(ゆうど)と呼び、この尤度を最大にするパラメータを推定値として採用します。

「尤」は「もっともらしい」という意味の漢字です。犯人当てにたとえると、「この証拠(データ)が残る可能性が一番高いのはどの犯人(パラメータ)か」を考え、最ももっともらしい候補を選ぶ推理法が最尤法です。

🖼 1枚でわかる最尤法

📘 公式テキストの説明

最尤法 は本書の章節記事では正式な定義段落が用意されていません。以下は、シラバスの位置づけと関連用語から再構成した補足解説です。

最尤法は、G検定シラバスの「AIに必要な数理・統計知識」で、確率分布・期待値・最小二乗法などと並んで挙げられるキーワードです。統計学でパラメータ(分布の形を決める数値)を推定する代表的な方法であり、機械学習では「モデルの学習」そのものが最尤法の考え方で定式化されることが多い、という位置づけを押さえておきましょう。

🔍 しっかり理解する

推定の流れ——4ステップ

コイン投げで計算してみる

コインを10回投げて表が7回出ました。このコインの「表が出る確率p」をいくつと推定するのがもっともらしいでしょうか。「10回中7回表」という結果が起こる確率は、組み合わせの数120通りを使って 120 × pの7乗 × (1-p)の3乗 と書けます。これがpの尤度関数です。

p = 0.7のほうが「表7回」という観測結果を起こしやすい、つまり尤度が高いことが分かります。実はこの尤度関数はちょうどp = 7/10 = 0.7で最大になることが微分で示せて、最尤推定値は直感どおり「観測された割合そのまま」の0.7になります。同じように、正規分布を仮定したデータの平均パラメータを最尤推定すると、答えは標本平均に一致します。「直感的に自然な推定量が、尤度最大化という1つの原理から統一的に導ける」ことが最尤法の強みです。

実務では「対数尤度」を使う

データが増えると、尤度は小さな確率の掛け算の連続になり、値が極端に小さくなってコンピュータでは計算誤差(アンダーフロー)も起きやすくなります。そこで尤度の対数(対数尤度)をとるのが定石です。対数は掛け算を足し算に変え、しかも大小関係を保つので、「対数尤度の最大化」は「尤度の最大化」と同じ答えを与えます。機械学習のライブラリが内部で計算しているのは、ほぼ常にこの対数尤度です。

機械学習との深い関係

最尤法は現代の機械学習の学習則そのものです。ロジスティック回帰やニューラルネットワークの分類学習で使われる交差エントロピー損失の最小化は、数学的には対数尤度の最大化(負の対数尤度の最小化)と同じものです。また、回帰で誤差が正規分布に従うと仮定すると、最尤法は最小二乗法と同じ答えを導くことが知られています。「モデルの学習=データへの当てはまりが最ももっともらしいパラメータ探し」という見方は、統計学と深層学習を貫く共通原理です。

💡 具体例で考える

迷惑メールフィルタのパラメータ推定。過去のメール1万通のうち2,000通が迷惑メールだったなら、「届いたメールが迷惑メールである確率」の最尤推定値は2,000/10,000 = 0.2です。さらに「迷惑メール中に『無料』という単語が現れる確率」なども同様に頻度から最尤推定でき、これらを組み合わせたナイーブベイズ分類器は最尤法の典型的な応用例です。

少ないデータの落とし穴。コインを3回投げて3回とも表だった場合、最尤推定値はp = 3/3 = 1.0、つまり「裏は絶対に出ない」という極端な推定になります。データが少ないと最尤法は観測結果に過剰に適合してしまうのです。これは機械学習の過学習と同じ構造の問題で、対策として事前知識を組み込むベイズ的な推定(MAP推定など)や正則化が使われます。

⚠️ よくある誤解・紛らわしい用語

📝 試験でのポイント

📚 まとめ