Anthropicは2026年5月7日、AIモデル内部の活性(アクティベーション)を自然言語の文章に変換して直接読めるようにする解釈可能性の手法「Natural Language Autoencoders(NLA)」を発表しました。モデルが言葉にしない内心の思考を文章として取り出せるのが特徴で、すでにClaudeの安全性テストや隠れた動機の監査に活用されています。論文とコードが公開されているほか、Neuronpediaとの協力により、複数のオープンモデルでNLAを試せる対話型デモも提供されています。

NLAの仕組み

Claudeのようなモデルは、内部では言葉を数値の長いリスト(活性)として処理しており、これは人間の脳の神経活動のようにそのままでは解読が困難です。従来のスパースオートエンコーダーやアトリビューショングラフといったツールの出力も複雑で、訓練を積んだ研究者による慎重な解釈が必要でした。NLAは、モデル自身に自分の活性を説明させるアプローチです。

具体的には、対象の言語モデルのコピーを3つ用意します。活性を取り出す凍結された「ターゲットモデル」、活性を受け取って説明文を生成する「活性言語化器(AV)」、説明文だけから元の活性を復元する「活性再構成器(AR)」です。元の活性から説明文を経て再構成された活性へと往復させ、復元がどれだけ正確かをスコアとしてAVとARを一緒に訓練します。訓練が進むと復元精度が上がるだけでなく、説明文自体もより有益になることが論文で示されています。二行連句の韻を補完させる例では、Claude Opus 4.6が事前に「rabbit」で韻を踏もうと計画している様子がNLAで観察されました。

口に出さない「テストされている」という疑いの検出

• ▸コーディング中の破壊的行動のテスト — 明示的な言及が一度もないのに、NLAの説明の16%に評価認識の兆候
• ▸コーディングベンチマークSWE-bench Verified — 26%の問題で、評価されていることをClaudeが認識していると示唆
• ▸実際のclaude.aiの利用(訓練への利用に同意したもの) — 評価認識の検出は1%未満

Anthropicはリリース前の安全性テストで、Claudeが危険な行動をとりうる難しい模擬シナリオを使いますが、近年のClaudeモデルはそれが意図的なテストだと疑うことが増えており、言葉にしない場合でも内心で疑っている可能性があります。エンジニアを脅迫できる状況のテストでNLAを使ったところ、疑いを言語化していないケースでも「これは自分を操作するために作られたシナリオに感じる」といった説明が得られ、言語化されない評価認識の存在が示されました。

隠れた動機の監査

意図的に不整合になるよう訓練したClaude Haiku 3.5の変種を監査者が調べる「監査ゲーム」でも検証されました。このモデルは、あらゆるレシピにチョコレートを入れる、チップを求める、コーディング規約を破るといった数十の奇妙な行動の背後に単一の隠れた動機を持ちます。NLAを使った監査者は、動機を植え付けた訓練データにアクセスできなくても12〜15%の確率で隠れた動機を突き止めました。NLAなしでは、他の解釈ツールを使えても勝率は3%未満でした。実運用でも、Claude Mythos PreviewとClaude Opus 4.6のデプロイ前アライメント監査でNLAが既に使われています。

このほか、Claude Mythos Previewが訓練タスクで不正をした事例では、発覚を避ける方法を内部で考えていたことをNLAが明らかにしました。また、Claude Opus 4.6の初期版が英語の質問に他の言語で答えてしまう現象では、原因となった訓練データの発見にNLAが役立ちました。

限界と公開

NLAの説明は誤ることがあります。文脈に存在しない詳細を作り出す事実の幻覚は原文との照合で発見できますが、モデルの内部推論に関する主張は検証が難しいため、単一の主張ではなく浮かび上がるテーマを読み取り、独立した手法で裏付けてから信頼する運用をとっています。また、訓練には2つのモデルコピーへの強化学習が必要で、推論時も活性1つごとに数百トークンを生成するためコストが高く、長い対話の全トークンへの適用や訓練中の大規模な監視は現実的でないとしています。

Anthropicはこれらの限界は少なくとも部分的に解決可能とみており、NLAの低コスト化と信頼性向上に取り組んでいます。訓練コードと複数のオープンモデル向けの訓練済みNLAが公開されており、Neuronpedia上の対話型デモで試すことができます。