ChatGPTの登場以来、「LLM」という3文字をニュースで見ない日はないほどです。でも、「大規模言語モデルって、結局何がどう大規模なの?」「普通の検索と何が違うの?」と聞かれると、意外と答えに詰まりませんか。このページでは、生成AI時代の主役であるLLMの正体を、部品レベルから深掘りします。
📖 ひと言でいうと
大規模言語モデル(LLM: Large Language Model)とは、膨大な量の文章を学習し、「言葉の続き」を高い精度で予測できるようになった、非常に大きな言語のAIモデルのことです。
身近な例えは、「世界中の図書館の本を読み込んだ予測変換」です。ただし普通の予測変換が直前の1〜2語しか見ないのに対し、LLMは会話全体の流れを踏まえて続きを組み立てます。質問への回答も、要約も、翻訳も、すべて「この文脈に続く最も自然な文章は何か」という1つの能力で実現している——ここがLLMの最大の特徴です。
🖼 1枚でわかる大規模言語モデル(LLM)
🔍 しっかり理解する
パラメーターとトークン——LLMを語る2つの基本用語
LLMの理解を一段深めるために、2つの用語を押さえましょう。
1つ目はパラメーターです。ひと言でいうと「モデル内部にある、調整可能な数値のつまみ」のこと。LLMの中身は、無数の数値が絡み合った計算の網(ニューラルネットワーク)で、学習とは、この膨大なつまみを「良い続き予測ができる位置」へ少しずつ回していく作業です。学習で得た言葉の知識やパターンは、特定の場所に文章として保存されるのではなく、つまみ全体の位置関係として溶け込むように記憶されます。LLMが文章を丸暗記した検索装置ではない、という話の根拠がここにあります。パラメーター数は数十億をはるかに超える規模に達し、これが「大規模」の柱の1つです。
2つ目はトークンです。ひと言でいうと「LLMが文章を読み書きするときの最小単位」のこと。LLMは文章を1文字ずつでも1単語ずつでもなく、「よく使われる文字のかたまり」に区切って処理します。日本語なら1文字や数文字、英語なら単語や単語の一部が1トークンになるイメージです。LLMが答えを作るときは、このトークンを1個ずつ、確率にもとづいて選んでは並べています。一度に扱えるトークン数には上限(コンテキストの長さ)があり、長すぎる文書を渡すと前半を踏まえられなくなる、といった実用上の制約もここから生まれます。
なぜ「続き予測」だけで何でもできるのか
LLMの不思議さは、「続きを予測する」というたった1つの訓練で、要約も翻訳も質問応答もできてしまう点にあります。種明かしをすると、言葉の続きをうまく予測するには、言葉の意味・文法・世の中の知識まで幅広く身につける必要があるからです。「フランスの首都は」の続きを正しく予測するには地理の知識が要りますし、「以下を要約すると」の続きを作るには内容の理解が要ります。続き予測という課題は、実は言語能力の総合試験だったのです。
さらに、モデルの規模を大きくしていくと、明示的に教えていない能力が現れてくることが知られています。規模と性能の関係については「スケーリング則」という別のキーワードで詳しく学びますが、「大規模にしたら、単なる続き予測機が汎用の言語装置に化けた」という驚きが、現在の生成AIブームの出発点だと覚えておいてください。
ちなみに、チャット形式で会話が「続いている」ように見えるのも、この仕組みの延長です。LLM自体は基本的に過去のやり取りを記憶しません。会話サービスは、毎回のやり取りのたびに「それまでの会話履歴の全体」を改めて入力として渡し、その続きを予測させています。会話が長くなるとコンテキストの上限に近づき、古い話題が踏まえられなくなることがあるのは、このためです。
「LLM」と「サービス」を区別する
もう1つ、実務でも試験でも役立つ整理があります。それは、LLMそのものと、LLMを使ったサービスは別物だということです。ChatGPTは「サービス」の名前で、その中核エンジンとしてLLMが動いています。サービスには、LLM本体のほかに、会話画面、安全対策のフィルター、外部ツールとの連携機能などが組み合わされています。「LLM=頭脳、サービス=頭脳を載せた製品」という関係です。ニュースで「新しいモデルが発表された」「サービスに新機能が追加された」という話題を区別して読めるようになると、理解が一段深まります。
💡 具体例で考える
Fさんは、LLMを「何でも知っている検索エンジン」だと思って使い始めました。ところが、社内の最新規程について聞くと、それらしいのに実際とは違う答えが返ってきます。LLMは、保存された文書を探して提示する検索エンジンとは違い、学習で身につけたパターンからその場で文章を生成する装置です。学習データにない社内情報は、当然ながら正しく答えられません。この違いを知ったFさんは、「一般的な知識や文章作成はLLM、社内の正確な情報は社内検索」と使い分けるようになりました。
| 観点 | 検索エンジン | LLM |
|---|---|---|
| 答えの出どころ | 実在するWebページ等を探して提示 | 学習したパターンからその場で生成 |
| 答えの形 | 文書へのリンクや抜粋 | 自然な文章 |
| 存在しない情報への反応 | 「見つからない」で終わる | それらしく生成してしまうことがある(ハルシネーション) |
| 得意なこと | 事実・出典の確認 | 要約・作文・言い換え・アイデア出し |
⚠️ よくある誤解・つまずきポイント
- 誤解「LLMは学習した文章をそのまま保存していて、検索して答えている」→ 正しくは、知識はパラメーターの中にパターンとして溶け込んでおり、答えは毎回その場で生成されます
- 誤解「大規模とは、単にデータが多いという意味」→ 正しくは、学習データ・パラメーター数・計算資源という3つの規模を指します
- 誤解「ChatGPT=LLM」→ 正しくは、ChatGPTはLLMを中核に据えたサービスの名前です。モデルとサービスは区別しましょう
- 誤解「LLMは言葉の意味を人間と同じように理解している」→ 正しくは、あくまで統計的なパターンにもとづく続き予測です。結果として理解しているように振る舞いますが、事実確認の仕組みは基本的に持ちません
📝 生成AIテストではこう出る
- LLMの基本動作を問う形式。「次に来る単語(トークン)を確率的に予測することを繰り返して文章を生成する」という記述を選べるかがポイントです
- 「大規模」の意味を問う形式。データ量・パラメーター数・計算資源の3点セットで押さえておきましょう
- パラメーターの説明を問う形式。「学習によって調整される、モデル内部の数値」という定義の正誤判定が想定されます
- 他キーワードとの関係を問う形式。「多くのLLMはトランスフォーマー構造を採用している」「LLMは基礎モデルの一種である」は正しい記述として出題され得ます
📚 まとめ
- LLMは、膨大な文章から「言葉の続き」の予測を学んだ、非常に大きな言語モデルです
- 中身はパラメーターという無数の数値で、知識は文章の丸暗記ではなくパターンとして溶け込んでいます
- 文章はトークン単位で処理され、1トークンずつ確率的に選ばれて回答が組み上がります
- 続き予測という1つの能力が、回答・要約・翻訳などの万能性の源です
- 「LLM=頭脳、ChatGPTなど=それを載せたサービス」という区別も忘れずに押さえましょう
