「最新ニュースを聞いたら古い答えが返ってきた」「計算をお願いしたら間違っていた」。生成AIを使っているとぶつかるこうした壁には、はっきりした理由があります。この記事では、大規模言語モデルの知識の限界と苦手分野、そしてそれを検索や電卓などの「外部ツール」で補う動向を、やさしく解説します。
📖 この項目で学ぶこと
この記事が対象とするのは、シラバスの理解項目「大規模言語モデルの外部ツール・リソースの利用の動向と原因について理解している。」です。
大規模言語モデルは驚くほど物知りに見えますが、その知識には構造的な限界があります。知っているのは学習した時点までの情報だけで、しかもその知識はあいまいに記憶されています。さらに、正確な計算や厳密な情報検索のような、コンピューターなら得意なはずの作業が、実は苦手です。
そこで現在の大きな動向が、「モデルにすべてをやらせない」という発想です。人間が電卓やインターネット検索を使うように、モデルにも検索エンジン・電卓・データベース・各種ソフトウェアといった外部ツール・外部リソースを使わせて、弱点を補うのです。この記事では、まず「なぜ外部の助けが必要なのか」という原因を3つのキーワードで理解し、そのうえで補い方の全体像を見ていきます。
🔍 キーワードをやさしく解説
大規模言語モデルの知識
大規模言語モデルの知識をひと言でいうと、「学習中に読んだ大量のテキストから、モデル内部のパラメーターに染み込む形で身についた知識」です。
例えるなら、膨大な本を読み込んだ人の「頭の中の記憶」に似ています。本棚(データベース)のようにページを開いて確認できる形ではなく、読んだ内容が溶け合って頭に染み付いている状態です。このような、パラメーターの中に埋め込まれた知識は「パラメトリックな知識」と呼ばれることもあります。
この形の知識には重要な特徴が3つあります。第一に、どこで覚えたかの出典が残っておらず、本人(モデル)も根拠を正確に示せません。第二に、記憶はあいまいで、学習データに頻繁に登場した有名な事柄には強い一方、まれにしか登場しない事柄では、もっともらしい誤り(ハルシネーション)を起こしやすくなります。第三に、あとから知識の一部だけをピンポイントで書き換えることが難しく、知識の更新には再学習や追加学習といった大がかりな作業が必要です。この「確認できない・あいまい・更新しづらい」という性質が、外部リソースに頼る第一の原因です。
知識カットオフ
知識カットオフをひと言でいうと、「モデルが学習に使ったデータの収集期限」のことです。モデルは、この期限より後に起きた出来事を原理的に知りません。
身近な例えでは、ある時点で印刷された百科事典を思い浮かべてください。どんなに分厚く立派な事典でも、印刷日より後のニュースは載っていません。大規模言語モデルも同じで、学習データを集めた締め切り日以降の新しい出来事、新製品、人事、法改正などは知らないのです。
やっかいなのは、モデルが「知りません」と言わずに、学習時点の古い情報や、もっともらしい作り話で答えてしまう場合があることです。多くのサービスでは、モデルの知識カットオフがいつ頃かを公開していますが、利用者がそれを意識していないと、古い情報を最新情報と思い込む事故につながります。この「知識が時間で止まっている」という性質が、外部ツール利用の第二の原因であり、検索エンジンと組み合わせて最新情報を取り込む機能が広がった直接の理由です。
大規模言語モデルの不得意タスク
大規模言語モデルの不得意タスクをひと言でいうと、「もっともらしい続きを予測する仕組みとは相性が悪い作業」のことです。
大規模言語モデルの本質は「次に来る言葉の確率的な予測」です。この仕組みゆえに、次のような作業が苦手になります。
- 正確な計算: 桁数の多い計算や複雑な数値処理は、「計算」ではなく「それらしい答えの予測」になるため間違えることがあります。電卓なら一瞬の計算でも誤るのは、仕組み上の必然です
- 厳密な検索・照合: 「社内規定の第○条を一字一句正確に」といった、正確な引用や網羅的な検索は、あいまいな記憶からの再構成になるため不正確になりがちです
- 最新情報・自社固有情報への回答: 知識カットオフ後の出来事や、そもそも学習データに含まれていない社内文書・個人的な情報には答えられません
- 実世界への働きかけ: メールを送る、予定を登録する、システムを操作するといった「行動」は、言葉を生成するだけのモデル単体ではできません
こうした不得意タスクを補う方法が、外部ツール・リソースの利用です。代表的な形として、モデルが必要に応じて検索エンジンを呼び出して最新情報を得る、電卓やプログラム実行環境に計算を任せる、社内文書などの資料を検索して見つかった内容にもとづいて回答する(この仕組みはRAGと呼ばれ、第2章で詳しく学びます)、外部のソフトウェアの機能を呼び出して実際の作業を行う、といったものがあります。例えるなら、優秀だが記憶があいまいな秘書に、検索・電卓・資料棚・各種ソフトという道具一式を持たせるイメージです。モデルは「どの道具をいつ使うか」の判断役に回り、正確さが必要な部分は道具が受け持つ。この役割分担が、外部ツール利用の動向の核心であり、AIが自律的に道具を使い分けて作業を進める「AIエージェント」へと発展していく土台にもなっています。
💬 実生活・仕事でどう役立つ？
この知識は、生成AIの回答をどこまで信じてよいかの判断基準になります。たとえば「一般的な知識の説明」は比較的得意でも、「最近の出来事」「正確な数値」「固有の事実の引用」は要注意ゾーンです。使っているサービスに検索機能があるなら最新情報の質問ではそれを有効にする、計算はAIの暗算を信じず結果を検算する、といった実践的な使い分けができるようになります。
また、仕事で「社内の情報に詳しいAIがほしい」と考えたとき、この記事の知識があれば、「モデル自体に社内知識はないので、社内文書を検索して参照させる仕組み(RAG)が必要だ」という筋の良い発想ができます。AIの限界を知ることは、AIを諦めることではなく、道具と組み合わせて弱点を消す設計につながるのです。
📝 生成AIテストではこう問われる
- 知識カットオフの説明として正しいもの(学習データの収集期限であり、それ以降の出来事は知らない)を選ばせる問題
- 大規模言語モデルが不得意なタスクの組み合わせを選ばせる問題。正確な計算・厳密な引用や検索・最新情報・学習データにない固有情報、を押さえましょう
- 外部ツール利用の「原因」を問う問題。知識があいまいで出典を示せない、更新しづらい、知識カットオフがある、といった構造的な限界と結びつけて理解しましょう
- 紛らわしい概念の対比に注意: 「モデル内部のパラメーターに埋め込まれた知識」と「外部リソースから取得する知識(検索結果や社内文書)」の違いは頻出の観点です。また、ハルシネーションは知識カットオフだけが原因ではなく、あいまいな記憶からの生成という仕組み全体に由来する点も混同しやすいところです
📚 まとめ
- 大規模言語モデルの知識はパラメーターに染み込んだあいまいな記憶で、出典を示せず、更新も容易ではありません
- 知識カットオフにより、学習データの収集期限より後の出来事は原理的に知りません
- 正確な計算・厳密な検索・最新情報・実世界への働きかけは大規模言語モデルの不得意タスクです
- だからこそ、検索・電卓・文書検索(RAG)・外部ソフト連携などの外部ツール・リソースでモデルの弱点を補う動向が主流になっています
次の「1-12 長期的な社会変化」では、視野を大きく広げて、生成AIの発展が社会をどう変えうるかを考えます。
