生成AIに質問したら、実在しない本のタイトルや、存在しない法律の条文を自信満々に教えられた——そんな話を聞いたことはありませんか。これが「ハルシネーション」です。生成AIを安全に使うために避けて通れないテーマなので、このページでは「なぜ起きるのか」「どんなパターンがあるのか」「どう付き合えばよいのか」を一段深く掘り下げます。
📖 ひと言でいうと
ハルシネーション(Hallucination)とは、生成AIが事実ではない内容を、本当のことのように流ちょうに出力してしまう現象のことです。英語の原義は「幻覚」です。
身近な例えは、記憶があいまいなまま話し続ける案内係です。駅で道を聞かれた案内係が、「わかりません」と言う代わりに、うろ覚えの知識をつなぎ合わせて「その店なら2番出口を出て右です」と滑らかに答えてしまう。言い方が自然なだけに、聞いた人は疑わずに歩き出してしまいます。生成AIのハルシネーションが厄介なのは、まさにこの「間違いなのに、間違いに見えない」点にあります。
🖼 1枚でわかるハルシネーション
🔍 しっかり理解する
ハルシネーションが生まれるまでの流れ
親記事では「確率モデルだからハルシネーションが起きる」という大枠を学びました。ここでは、実際にウソが組み上がっていく過程を追いかけてみましょう。
生成AIは、質問を受けると「次に来る確率が高い言葉」を1語ずつ選んで答えを作ります。このとき重要なのは、知らない話題でも確率の計算は止まらないということです。たとえば実在しない人物について経歴を聞かれても、モデルは「人物の経歴を語る文章のパターン」を学習データから大量に知っています。「〜大学を卒業し」「〜社に入社し」といった、経歴紹介にありがちな言葉の流れです。その結果、パターンとしては完璧なのに中身は架空、という文章が出来上がります。ウソをつこうとしているのではなく、「それらしい続きを作る」という仕事を忠実にこなした結果なのです。
なお、ハルシネーションは中身によって2種類に分けて語られることがあります。1つは、世の中の事実と食い違う内容を作ってしまうタイプ(存在しない判例を挙げる等)。もう1つは、与えられた資料や質問文と食い違う内容を作ってしまうタイプ(要約に原文にない話を混ぜる等)です。前者は知識の穴が、後者は入力の読み違いが主な引き金で、対策を考えるときもこの区別が役立ちます。
どんなときに起きやすいか
ハルシネーションは、いつでも同じ頻度で起きるわけではありません。起きやすい典型的な場面を知っておくと、警戒すべきタイミングがわかります。
- 固有名詞・数値・日付・出典を答えさせるとき: 「その論文の著者は?」「売上は何円?」のような、ピンポイントの事実を問う質問は、パターンで穴埋めされやすい典型例です
- マイナーな話題・学習データが少ない領域: 有名な事柄より、ニッチな事柄のほうが知識の穴に当たりやすくなります
- 学習時点より後の出来事: モデルの知識には期限があるため(知識カットオフと呼ばれ、別項目で学びます)、最近の話題では実際の出来事と食い違いが生じます
- 質問文自体に誤った前提が含まれるとき: 「存在しないもの」を存在する前提で聞くと、AIはその前提に乗って続きを作ってしまいがちです
逆に、一般常識レベルの説明や、文章の要約・言い換えのように「材料が目の前に与えられている」作業では、比較的起きにくくなります。ただし要約でも、元の文章に書かれていない内容を混ぜ込む形のハルシネーションはあり得るため、ゼロにはなりません。
対策は「減らす」と「見つける」の二本立て
対策を考えるときは、発生を「減らす」工夫と、出てしまったものを「見つける」工夫に分けると整理しやすくなります。
| 方向性 | 具体策 | ポイント |
|---|---|---|
| 減らす | RAG(検索で根拠資料を渡してから答えさせる) | 記憶頼みでなく資料参照型にする |
| 減らす | プロンプトの工夫(「わからなければわからないと答えて」等) | 抑制効果はあるが保証ではない |
| 見つける | 人間によるファクトチェック | 固有名詞・数値・出典を重点確認 |
| 見つける | 出典の提示を求め、原典に当たる | 出典自体が架空の場合もあるので原典確認が必須 |
大切なのは、どの対策も「軽減策」であって「根絶策」ではないという認識です。ハルシネーションは確率モデルという仕組みそのものに由来するため、モデルの改良で減らすことはできても、原理的にゼロを保証することは難しいとされています。だからこそ、最後の砦は運用、つまり「重要な用途ほど人間の確認を挟む」という体制づくりになります。
💡 具体例で考える
法務部のCさんは、契約書のチェックの参考にと、生成AIに「この条項に関連する法律の条文番号」を尋ねました。AIは条文番号付きのもっともらしい解説を返しましたが、念のため原典を確認すると、その番号の条文はまったく別の内容でした。Cさんは「解説の構成は参考にしつつ、条文は必ず原典で確認する」という運用に切り替えました。ハルシネーションの典型と、正しい付き合い方の両方が詰まった例です。
一方、企画職のDさんは、新サービスのネーミング案出しに生成AIを使っています。この用途では「実在しない言葉」が出てきてもまったく問題ありません。むしろ、ありそうでなかった組み合わせが次々出てくることが価値になります。同じ性質が、用途によって欠点にも長所にもなる——これがハルシネーションと創造性が表裏一体と言われるゆえんです。
⚠️ よくある誤解・つまずきポイント
- 誤解「ハルシネーションはバグなので、いずれ修正されて完全になくなる」→ 正しくは、確率モデルの仕組みに由来する本質的な性質で、軽減はできても根絶は難しいとされています
- 誤解「AIが堂々と答えているのだから正しいはず」→ 正しくは、自信ありげな文体と正確さは無関係です。むしろ流ちょうさが警戒心を解いてしまう点が最大のリスクです
- 誤解「出典を出させれば安心」→ 正しくは、出典そのものが架空のことがあります。出典の実在と中身の一致まで確認して初めて安心できます
- 誤解「ハルシネーション=バイアス」→ 正しくは、ハルシネーションは「事実でない内容の生成」、バイアスは「偏った内容の生成」で、別の概念として区別されます
📝 生成AIテストではこう出る
- ハルシネーションの定義を選ばせる形式。「事実に反する内容をもっともらしく生成する現象」が正解の軸で、「学習データをそのまま出力する現象」などの誤答と区別させる問題が想定されます
- 原因を問う形式。「事実を照合する仕組みではなく、確率的にもっともらしい出力を生成しているため」という説明を選べるかがポイントです
- 対策の理解を問う形式。「技術的対策によって完全に防止できる」は誤りで、人間による確認や軽減策の併用が必要とする選択肢が正解になりやすいでしょう
- RAGとの関連を問う形式。「外部の情報源を参照させることでハルシネーションの軽減が期待できる」という記述の正誤判定が考えられます
📚 まとめ
- ハルシネーションは、生成AIが事実でない内容を流ちょうに出力してしまう現象です
- 原因は、知らない話題でも「ありがちなパターン」で穴埋めして文章を完成させてしまう確率モデルの性質にあります
- 固有名詞・数値・出典・最近の出来事・誤った前提の質問で特に起きやすくなります
- 対策は「減らす(RAG・プロンプトの工夫)」と「見つける(人間の確認・原典確認)」の二本立てで、根絶ではなく軽減が目標です
- 同じ性質がアイデア出しでは創造性として働く、という表裏一体の関係も押さえておきましょう
