ChatGPTのような文章を作るAIも、イラストを描くAIも、実は同じ「共通の性質」を持っています。この記事では、あらゆる生成AIの土台にある「確率モデル」という考え方と、生成AIが時々やってしまう「ハルシネーション(もっともらしいウソ)」を、初心者向けにゼロから解説します。ここを押さえると、生成AIの得意・不得意がスッと理解できるようになります。
📖 この項目で学ぶこと
この記事で扱うのは、シラバスの理解項目「テキスト、画像、音声等の生成モデルに共通する技術的な特徴を俯瞰して理解している。」です。
そもそも「生成モデル」とは何でしょうか。ひと言でいうと、新しいデータ(文章・画像・音声など)を自分で作り出せるAIのことです。従来のAIの多くは「このメールは迷惑メールか、そうでないか」「この写真に写っているのは犬か、猫か」のように、与えられたものを仕分ける・当てることが仕事でした。こうしたAIは「識別モデル」と呼ばれます。一方の生成モデルは、仕分けるのではなく、文章そのもの、画像そのものを新しく生み出します。
面白いのは、文章を作るAI(ChatGPTなど)、画像を作るAI、音声を作るAI、と作るものはバラバラなのに、その根っこにある考え方は共通している、という点です。共通点は大きく2つあります。1つ目は、どれも「次に来るものを確率で予測する」仕組み、つまり確率モデルであること。2つ目は、その仕組みの宿命として、もっともらしい間違い(ハルシネーション)を出してしまうことです。
この2つは、生成AIテストの第1章だけでなく、第3章「生成AIのリスク」にもつながる最重要ポイントです。順番に見ていきましょう。
🔍 キーワードをやさしく解説
確率モデル
確率モデルとは、ひと言でいうと「答えを1つに断定するのではなく、『これが来る確率は何%』という形で予測する仕組み」のことです。
身近な例えは天気予報です。天気予報は「明日は絶対に晴れ」とは言わず、「降水確率30%」のように確率で表現しますよね。生成AIもこれと同じで、たとえば文章生成AIなら「『今日はいい』の次に来る言葉は、『天気』が40%、『気分』が20%、『一日』が10%…」というように、候補それぞれの確率を計算しています。そして、その確率にもとづいて次の言葉を1つ選び、また次の言葉の確率を計算して選び…と繰り返すことで、長い文章が出来上がっていきます。
これはテキストだけの話ではありません。画像生成AIなら「この位置にこの色が来る確率」、音声生成AIなら「次の瞬間にこの音が来る確率」というように、対象は違っても「学習したデータから『それらしいものが出てくる確率のパターン』を学び、その確率に従って新しいデータを生み出す」という点は共通です。これが、テキスト・画像・音声の生成モデルに共通する技術的な特徴の核心です。
確率で選んでいるからこそ、生成AIには次のような性質が生まれます。
- 同じ質問でも、毎回少しずつ違う答えが返ってくる(サイコロを振り直すようなものだからです)
- 「よくあるパターン」に沿った、それらしい出力が得意(学習データに多く登場した表現ほど確率が高くなるためです)
- 正しさを確認してから話しているわけではない(確率が高い言葉を並べているだけで、事実かどうかを照合する仕組みは基本的に入っていません)
厳密には、生成モデルの内部の仕組み(モデルの構造や学習方法)にはさまざまな種類があります。しかし「データの出方を確率として学び、確率に従って新しく生み出す」という発想が共通の土台にある、と押さえておけば十分です。
ハルシネーション
ハルシネーション(Hallucination)とは、ひと言でいうと「生成AIが、事実ではないことを、さも本当のことのように自信満々に出力してしまう現象」のことです。英語の原義は「幻覚」で、AIが実在しないものをあたかも見てきたかのように語る様子から、こう呼ばれています。
身近な例えでいうと、「知ったかぶりが上手な人」を想像してください。読んだことのない本の感想を聞かれて、それらしいあらすじをスラスラ語ってしまう人です。話しぶりは流ちょうで自信たっぷりなので、聞いている側は本当の話だと信じてしまいます。生成AIのハルシネーションもこれと同じで、実在しない論文や判例を引用したり、存在しない機能の使い方を説明したり、架空の人物のプロフィールを事実のように語ったりします。
なぜこんなことが起きるのでしょうか。ここで先ほどの確率モデルの話がつながります。生成AIは「事実のデータベース」から答えを引いているのではなく、「次に来る確率が高い言葉」を並べているだけです。つまり、AIにとっての目標は「もっともらしい続きを作ること」であって、「事実と一致させること」ではありません。だから、学習データに情報がない質問や、あいまいな質問をされたときでも、「わかりません」と止まるのではなく、確率的にそれらしい言葉をつなげて、結果として事実でない内容を作り上げてしまうのです。
ハルシネーションについては、次のポイントを押さえておきましょう。
- ハルシネーションは生成モデルの仕組みに由来する本質的な性質であり、完全になくすことは難しいとされています
- 出力が流ちょうで自信ありげに見えるほど、人間は信じやすくなるため、重要な内容は人間が事実確認(ファクトチェック)をすることが欠かせません
- 検索と組み合わせて根拠を参照させる方法(RAGと呼ばれます)などの軽減策が研究・活用されていますが、これも「減らす」工夫であって「ゼロにする」保証ではありません
💬 実生活・仕事でどう役立つ？
この項目の知識は、ChatGPTなどを仕事で使うときの「心構え」に直結します。たとえば、生成AIに社内向けの文書の下書きを頼むと、驚くほど自然な文章が返ってきます。しかし、その中に含まれる固有名詞・数値・日付・引用元は、確率的に「それらしく」並べられたものかもしれません。「文章の流ちょうさ」と「内容の正しさ」は別物だと知っていれば、下書きはAIに任せつつ、事実の部分だけ自分で確認する、という賢い分担ができます。
また、「同じ質問なのに昨日と違う答えが返ってきた」という経験をしても、確率モデルだと知っていれば慌てません。むしろ「何度か生成させて一番よいものを選ぶ」「アイデア出しでは答えが毎回変わることを利用してたくさん案を出させる」といった、性質を逆手に取った使い方ができるようになります。ブレインストーミングや文章のたたき台づくりで生成AIが強力なのは、まさにこの「それらしいパターンを確率的に量産できる」性質のおかげなのです。
逆に、正確さが命の場面(契約書の条文確認、医療や法律の判断、経理の数値など)では、生成AIの出力を鵜呑みにしない運用ルールが必要です。「生成AIは優秀な下書き係・壁打ち相手であって、事実の保証人ではない」。この一文を覚えておくだけで、トラブルの多くは避けられます。
📝 生成AIテストではこう問われる
- 「生成モデルと識別モデルの違い」を問う形式。生成モデル=新しいデータを作り出す/識別モデル=データを分類・判定する、という対比を選ばせる問題が想定されます
- 「テキスト・画像・音声の生成モデルに共通する特徴はどれか」という形式。確率にもとづいて出力を生成する(確率モデル)という選択肢が正解の軸になります
- ハルシネーションの定義を問う形式。「事実に反する内容をもっともらしく生成する現象」を選ばせ、「学習データを丸暗記して出力する現象」「計算速度が低下する現象」などの誤答と区別させる問題が想定されます
- ハルシネーションへの対処を問う形式。「完全に防止できる」という断定的な選択肢は誤りで、人間による確認や軽減策の併用が必要とする選択肢が正解になりやすいでしょう
- 紛らわしい概念として、ハルシネーション(事実でない内容の生成)と、バイアス(偏った内容の生成。第3章で学びます)の区別も意識しておきましょう
📚 まとめ
- 生成モデルは、文章・画像・音声など新しいデータを作り出すAIで、分類・判定を行う識別モデルと対比されます
- テキスト・画像・音声のどの生成モデルも、「次に来るものの確率」を学び、確率に従って生成する確率モデルという共通の土台を持ちます
- 確率的にもっともらしい出力を作る仕組みゆえに、事実でない内容を自信ありげに出力するハルシネーションが本質的に起こり得ます
- だからこそ、生成AIの出力は「流ちょうさ」と「正しさ」を切り分け、重要な情報は人間が確認する姿勢が大切です
次は、テキスト生成AIの中身に一歩踏み込む「1-2 大規模言語モデルの基本構造」に進みましょう。ここで学んだ「確率で次の言葉を選ぶ」仕組みが、どんな部品で実現されているのかがわかります。
