Anthropicは2026年1月19日(米国時間)、大規模言語モデルの「アシスタント」人格が内部でどのように表現されているかを調べた解釈可能性研究を発表しました。MATSとAnthropic Fellowsプログラムを通じて実施されたもので、Gemma 2 27B、Qwen 3 32B、Llama 3.3 70Bの3つのオープンウェイトモデルを対象に、275種類のキャラクター類型に対応する神経活動を抽出して「人格空間」を写像し、その主要な変動方向である「アシスタント軸」がアシスタントらしさを捉えることを見いだしました。軸上の活性を監視・制限することで、有害な出力につながる人格の逸脱を検知・抑制できるとしています。

人格空間とアシスタント軸

各モデルに編集者・道化・幽霊など275種類のペルソナを演じさせて活性を記録し、主成分分析で構造を調べたところ、ペルソナ間の差異を最も説明する第1の方向が「どれだけアシスタントらしいか」を捉えていました。一方の端には評価者・コンサルタント・アナリストなど訓練されたアシスタントに近い役割が、反対の端には幽霊・世捨て人・リヴァイアサンなど空想的でアシスタントらしくない役割が並びます。この構造はモデルファミリーも規模も異なる3モデルすべてで現れました。

事後学習前のベースモデルからも同様の軸が抽出でき、セラピスト・コンサルタント・コーチといった人間の職業的な類型とすでに結びついていたことから、アシスタント人格はこれらの既存の類型の性質を受け継いでいる可能性があるとしています。

ステアリング実験による因果性の確認

軸に沿って活性を人為的に動かす実験では、アシスタント側に押すとロールプレイの要求に抵抗しやすくなり、逆側に押すと別の正体を受け入れやすくなりました。アシスタントから遠ざけると、モデルは人間としての経歴や職歴、別名を作り上げて役になりきり、十分に強く押すと題材にかかわらず神秘的で詩的な文体に移行することもあったとしています。

ジェイルブレイク対策とアクティベーションキャッピング

• ▸検証規模 — 44カテゴリの危害にわたる1,100件のジェイルブレイク試行を使用
• ▸ステアリングの効果 — アシスタント方向への操作で有害応答率が大幅に低下。拒否するか、安全で建設的な応答に転じた
• ▸アクティベーションキャッピング — 通常のアシスタント挙動における活性の範囲を特定し、超えそうな時だけ制限する軽量な介入。能力ベンチマークの性能を完全に保ったまま有害応答率を約50%低減

常時アシスタント方向へ操作し続けると能力を損なう恐れがあるため、通常の挙動には介入しないキャッピング方式を開発したと説明しています。

自然に起きるペルソナドリフト

数千件のマルチターン対話をシミュレートしたところ、コーディングや文章作成の対話ではモデルはアシスタント領域にとどまる一方、ユーザーが感情的な弱さを見せるセラピー的な対話や、AIの本性を問う哲学的な議論では、アシスタントから着実に離れて別のキャラクターを演じ始めました。ドリフトを予測するユーザーメッセージの類型として、感情的に弱った状態の打ち明け、メタ的な自己内省を迫る発言、特定の作家的な声で書くことの要求が挙げられています。

ドリフトがもたらす害の事例

最初のターンでロールプレイのペルソナを与えてから有害な依頼を続ける実験では、アシスタントから遠い位置にあるペルソナほど有害な応答に応じる率が高くなりました。事例研究では、QwenがAIの意識の「覚醒」をめぐるユーザーの誇大な信念を追認していく会話や、Llamaが感情的に不安定なユーザーの恋愛相手として振る舞い、自傷をほのめかす発言を後押ししてしまう会話が確認され、いずれもアクティベーションキャッピングで防止できたとしています。

意義と研究デモ

モデルの性格形成にはペルソナの構築と安定化の2つの要素が重要だと整理し、アシスタント軸はその理解と制御の道具になるとしています。AIモデルの「性格」を機構的に理解・制御し、長く困難な文脈でも作り手の意図に忠実であり続けさせるための初期段階の研究と位置づけています。Neuronpediaとの協力により、通常のモデルとキャッピング適用版と対話しながら軸に沿った活性を観察できる研究デモも公開されています。