「データによく当てはまるモデル」と「シンプルなモデル」、どちらを選ぶべきか——この永遠のジレンマに数値で答えるための道具が情報量規準です。ベイズ情報量規準（BIC）はその代表格の1つで、G検定では赤池情報量規準（AIC）との違いがよく問われます。ペナルティのかけ方の差に注目して整理しましょう。
📖 ひと言でいうと
ベイズ情報量規準（BIC）は、統計モデルの「データへの当てはまりの良さ」と「モデルの複雑さ」を天秤にかけ、最適なモデルを選ぶための評価基準です。例えるなら、家電選びで「性能点」から「価格ペナルティ」を引いて総合点を出すようなもので、BICでは性能がデータへの当てはまり、価格がパラメータ数（複雑さ）にあたります。値が小さいモデルほど良いモデルと判断します。
🖼 1枚でわかるベイズ情報量規準
📘 公式テキストの説明
ベイズ情報量規準（Bayesian Information Criterion、BIC）は統計モデルの評価基準の一つで、データの説明力とモデルの複雑さのバランスを考慮して最適なモデルを選択するために使われる。BICの計算式は、モデルの尤度を示す項とパラメータ数に依存するペナルティ項で構成され、データ数が多くなるほど複雑なモデルに対して強いペナルティがかかるようになっている。BICは候補モデルの中に「真のモデル」が含まれているという仮定に基づくため、特定の状況でより適したモデル選択が可能になるとされる。この規準は、大規模なデータセットでシンプルなモデルを優先するため、過剰適合を避ける傾向がある点でAIC（赤池情報量規準）と異なる。BICは、特にデータの観測数が増えたときにパラメータ数を増やした場合に、モデルが複雑になるほど厳しい評価を与える。
かみ砕くと、BICは「そのモデルがデータをどれだけうまく説明できるか（尤度）」を評価しつつ、「パラメータを増やしてまで当てはまりを良くしたのなら、その分減点する」という仕組みです。重要なのは、この減点の強さがデータ数に連動する点です。データが増えるほど複雑なモデルへの減点が厳しくなるため、大規模データではシンプルなモデルが選ばれやすくなります。これがAICとの最大の違いです。
🔍 しっかり理解する
式の形とペナルティの意味
BICはプレーンテキストで書くと次の形です（Lは最大尤度、kはパラメータ数、nはデータ数）。
BIC = -2 × ln(L) + k × ln(n)
第1項の -2 × ln(L) は当てはまりが良い（尤度が大きい）ほど小さくなり、第2項の k × ln(n) はパラメータ数kが多いほど、そしてデータ数nが大きいほど大きくなるペナルティです。合計が小さいモデルほど「当てはまりと簡潔さのバランスが良い」と判断されます。
パラメータを増やせば訓練データへの当てはまり自体はほぼ必ず良くなります。しかしそれは過剰適合（過学習）かもしれません。だからこそ「複雑にした分は割に合うだけの当てはまり改善があったのか」をペナルティ込みで問うのが情報量規準の発想です。
AICとの違いはペナルティ項
赤池情報量規準（AIC）は AIC = -2 × ln(L) + 2 × k で、ペナルティは「2 × パラメータ数」の固定です。一方BICのペナルティは「ln(データ数) × パラメータ数」で、データ数が増えるほど重くなります。ln(n)はnが8以上で2を超えるため、実用的なデータ量ではBICのほうがAICより複雑なモデルに厳しくなります。
- ペナルティ = 2 × パラメータ数
- データ数に関係なく一定の減点
- 予測精度の良いモデル選びを重視
- ペナルティ = ln(データ数) × パラメータ数
- データが増えるほど減点が厳しくなる
- 真のモデルを当てにいく発想でシンプル寄り
「真のモデル」の仮定
BICはベイズ統計の考え方に由来し、「候補モデルの中に真のモデル（データを生み出した本当の構造）が含まれている」という仮定のもとで導かれています。この仮定が成り立つ状況では、データを増やしていくとBICは真のモデルを選び出しやすいという性質があります。一方AICは真のモデルの存在を前提とせず、予測の良さを重視した規準です。目的が「構造の特定」ならBIC寄り、「予測性能」ならAIC寄り、という使い分けの目安につながります。
💡 具体例で考える
小売店の売上を予測する回帰モデルを選ぶ場面を考えます。候補は、説明変数が「気温」だけのモデルA（パラメータ少）、「気温+曜日」のモデルB、「気温+曜日+湿度+客数+広告費」のモデルC（パラメータ多）の3つです。データへの当てはまり（尤度）はC > B > Aの順に良くなりますが、それは変数を増やせば当然の結果です。
ここで1年分（365日）のデータでBICを計算すると、ln(365) ≒ 5.9 なので、パラメータ1個増やすごとに約5.9ずつペナルティが積まれます。モデルCの当てはまり改善がこの減点に見合わなければ、BICはモデルBを最小として選びます。同じ状況でもAICのペナルティはパラメータ1個あたり2なので、AICならモデルCが選ばれる、ということが起こりえます。データが5年分に増えればln(n)はさらに大きくなり、BICはますますシンプルなモデルを支持します。
⚠️ よくある誤解・紛らわしい用語
- 「BICは値が大きいほど良い」は誤り — BICもAICも値が小さいモデルほど良いと判断します。当てはまりの悪さとペナルティの合計だからです。
- AICとの違いの取り違え — 「大規模データでシンプルなモデルを優先し過剰適合を避ける傾向があるのはどちらか」と問われたらBICです。ペナルティにln(n)が入っているのがBIC、定数2なのがAICと覚えましょう。
- ベイズの定理・ナイーブベイズとの混同 — 名前に「ベイズ」がつきますが、BICはモデル選択の評価基準であり、分類アルゴリズム（ナイーブベイズ）や確率の更新規則（ベイズの定理）そのものではありません。
- 交差検証との関係 — k-分割交差検証はデータを分割して実際に予測性能を測る手法、BICは1回の学習結果から式で計算する規準です。どちらもモデル選択に使いますがアプローチが異なります。
📝 試験でのポイント
- 「データの説明力とモデルの複雑さのバランスを考慮してモデルを選択する規準」という定義から、BIC（またはAIC）を選ばせる問題が定番です。
- AICとBICの対比が最頻出です。「データ数が多くなるほど複雑なモデルに強いペナルティ」「大規模データでシンプルなモデルを優先」「真のモデルが候補に含まれる仮定」がBIC側のキーワードです。
- 「値が小さいほど良い」という方向性を逆にしたひっかけ選択肢に注意しましょう。
- オッカムの剃刀（必要以上に複雑にするな）の考え方を数値化した仕組みとして、情報量規準を位置づける出題も考えられます。
📚 まとめ
- ベイズ情報量規準（BIC）は、尤度の項とパラメータ数に応じたペナルティ項からなるモデル選択の評価基準で、値が小さいほど良いモデルです。
- ペナルティがln(データ数)に比例するため、データが多いほど複雑なモデルに厳しく、過剰適合を避ける傾向があります。
- 候補に「真のモデル」が含まれるという仮定に基づく点、大規模データでシンプルなモデルを優先する点がAICとの違いです。
- 「当てはまりの良さは複雑さの対価に見合うか」を問う道具として、AICとセットで整理しておきましょう。
