「生成AIは確率で動いている」と聞いて、ピンとくるでしょうか。ChatGPTが賢い答えを返してくるのを見ると、まるで頭の中に正解のリストを持っているように感じますよね。しかし実際の中身は、「次に何が来そうか」を確率として計算し続ける仕組み、すなわち確率モデルです。このページでは、この生成AIの土台中の土台を、じっくり深掘りします。
📖 ひと言でいうと
確率モデルとは、「答えはこれだ」と1つに断定するのではなく、「候補Aが来る確率は40%、候補Bは20%…」というように、起こりやすさを確率の形で表現して予測する仕組みのことです。
身近な例えは、くじ引きの箱です。箱の中に「天気」と書かれた玉が40個、「気分」の玉が20個、「一日」の玉が10個…と入っていて、そこから1つ引く場面を想像してください。どの玉が出るかは引くまでわかりませんが、「天気」が出やすいことは箱の中身から決まっています。生成AIは、文脈に応じてこの「箱の中身(=各候補の確率)」を毎回作り直しては1つ引く、という作業を延々と繰り返しているのです。
🖼 1枚でわかる確率モデル
🔍 しっかり理解する
「確率の一覧表」を作っては1つ選ぶ、の繰り返し
親記事では「次に来る言葉を確率で予測する」ことを学びました。ここでは、その中身をもう一段細かく見てみましょう。文章生成AIが1つの単語(正確には「トークン」と呼ばれる文字のかたまり)を出力するまでには、大きく2つの段階があります。
第1段階は「確率の一覧表を作る」ことです。モデルは、それまでの文脈(あなたの質問と、すでに出力した部分)をすべて手がかりにして、語彙に含まれる膨大な候補それぞれに「次に来る確率」を割り振ります。これはちょうど、全候補に点数を付けた成績表のようなものです。文脈が変われば成績表も変わります。「今日はいい」の後と「明日の会議は」の後では、まったく違う一覧表が作られます。
第2段階は「一覧表から1つ選ぶ(サンプリング)」ことです。確率が最も高い候補を必ず選ぶわけではなく、多くの場合、確率に応じたくじ引きのような選び方をします。確率40%の候補は40%の割合で、確率10%の候補も10%の割合で選ばれ得る、ということです。だからこそ、同じ質問でも毎回少しずつ違う文章が生まれます。この「選び方の調整」には専用の手法がいくつもあり、別の項目(サンプリング手法)で詳しく学びます。
そして選ばれた1語は文脈に付け足され、また第1段階に戻ります。この繰り返しが、長い文章を生む正体です。
なぜ「確率」でなければならなかったのか
「最初から正解を1つ覚えさせればいいのでは?」と思うかもしれません。しかし、言葉の世界に「唯一の正解」はありません。「今日はいい天気ですね」も「今日はいい気分だ」も、どちらも自然な日本語です。正解が1つに決まらない世界を扱うには、「どれも起こり得るが、起こりやすさが違う」という表現、つまり確率がぴったりなのです。
もう1つの理由は、見たことのない文章を作れることです。もしAIが学習した文章の丸暗記しかできないなら、あなたのオリジナルの質問には答えられません。確率モデルは、文章そのものではなく「言葉のつながりやすさのパターン」を学びます。パターンさえ身につけば、学習データに存在しなかった組み合わせの文章でも、自然に組み立てられます。生成AIの「創造性」に見えるものは、このパターンの組み替えから生まれています。
厳密には、確率モデルという言葉はAI以外の統計学でも広く使われる一般的な概念で、生成AIはその考え方をとてつもなく大規模にした応用例の1つです。
テキスト以外でも原理は同じ
画像生成AIは「この位置にどんな色や模様が来やすいか」、音声生成AIは「次の瞬間にどんな音が続きやすいか」という確率のパターンを学習しています。作るものは違っても、「学習データからパターンの確率を学び、確率に従って新しく生み出す」という骨格は共通です。たとえば画像生成で同じ指示文から毎回違うイラストが出てくるのも、文章生成と同じ「くじ引き」が起きているからです。この共通性こそが、シラバスで「生成モデルに共通する技術的な特徴」と表現されているものの正体です。
💡 具体例で考える
会社で企画書のキャッチコピーを考えているAさんの例です。生成AIに「新商品の水筒のキャッチコピーを10個」と頼むと、10個の案が数秒で出てきました。気に入らなかったので、まったく同じ指示をもう一度送ると、今度は少し違う10個が出てきました。Aさんは「さっきと答えが違う。壊れてる?」と不安になりましたが、これはまさに確率モデルの正常な動作です。毎回くじを引き直しているのだから、違う結果が出るのが当たり前なのです。むしろAさんは「同じ指示を3回送って30案から選ぶ」という使い方に切り替え、効率よく候補を集められました。
一方、Bさんは経理の数値確認を生成AIに任せて失敗しました。AIは「それらしい数値の並び」を確率的に出力できてしまうため、検算のつもりが、もっともらしい誤りを見逃す結果になったのです。確率モデルは「よくあるパターンの再現」が仕事であり、「正確な照合」は仕事ではない——この線引きを知っていれば防げた失敗といえます。
⚠️ よくある誤解・つまずきポイント
- 誤解「AIはデータベースから正解を検索して答えている」→ 正しくは、確率の一覧表を作って1語ずつ選んでいるだけで、事実を照合する検索とは仕組みが根本的に違います
- 誤解「答えが毎回変わるのは故障やバグ」→ 正しくは、確率に応じたくじ引きで選ぶ設計なので、揺らぎは仕様です。安定した出力が欲しい場合は選び方を調整する設定もあります
- 誤解「確率が高い答え=正しい答え」→ 正しくは、確率は「学習データでのありがちさ」を表すだけで、事実かどうかとは別問題です。ここを混同すると、次に学ぶハルシネーションの理解でつまずきます
- 誤解「確率モデルはテキスト生成だけの話」→ 正しくは、画像・音声・動画の生成モデルにも共通する原理です
📝 生成AIテストではこう出る
- 「生成モデルに共通する技術的特徴として最も適切なものはどれか」→ 確率にもとづいてデータを生成する、という選択肢を選ばせる形式が想定されます
- 「同じ入力に対して出力が毎回変わり得る理由」を問う形式。確率的に出力を選択しているため、が正解の軸になります
- 「確率モデルの出力の確率が高いことは事実であることを保証する」という記述の正誤判定。誤りと判断できるかがポイントです
- 生成モデル(新しいデータを作る)と識別モデル(分類・判定する)の対比の中で、確率モデルとしての性質がどちらの文脈で語られているかを見極めさせる問題も考えられます
📚 まとめ
- 確率モデルは、答えを断定せず「候補ごとの起こりやすさ」を確率で表して予測する仕組みです
- 生成AIは「文脈から確率の一覧表を作る→確率に応じて1つ選ぶ→文脈に加えて繰り返す」ことで出力を作ります
- 確率だからこそ、毎回違う答え・見たことのない組み合わせの生成が可能になります
- ただし確率は「ありがちさ」であって「正しさ」ではありません。この点が、次のキーワード「ハルシネーション」への入り口です
