【生成AIニュースメモ】Anthropic、AIの内部表現を文章に変換する手法「NLA」を発表(2026/5/8)
Anthropicは2026年5月7日、AIモデル内部の活性(アクティベーション)を自然言語の文章に変換して直接読めるようにする解釈可能性の手法「Natural Language Autoencoders(NLA)」を発表しました。モデルが言葉にしない内心の思考を文章として取り出せるのが特徴で、すでにClaudeの安全性テストや隠れた動機の監査に活用されています。論文とコードが公開されているほか、Neuronpediaとの協力により、複数のオープンモデルでNLAを試せる対話型デモも提供されています。
【生成AIニュースメモ】Anthropic、アライメントの汎化を改善する学習手法「MSM」を発表(2026/5/6)
Anthropicは2026年5月5日、アライメント学習の汎化を改善する手法「モデルスペック中間学習(MSM)」を発表しました。事前学習の後、アライメントのファインチューニングの前に、モデルの行動指針を定めたモデルスペックについて論じる合成文書でモデルを訓練するものです。同じファインチューニングを施しても、MSMで用いたスペックによってモデルの汎化のしかたが変わることが示され、エージェントとしての不整合行動の大幅な削減にも役立つと報告されています。研究はAnthropic Fellows Programの成果で、論文とコードが公開されています。
【生成AIニュースメモ】Sakana AI、応答と知識を両立する音声対話AI「KAME」を発表(2026/4/30)
Sakana AIは2026年4月、リアルタイム音声対話AIの新アーキテクチャ「KAME」を発表しました。音声から音声へ直接応答するSpeech-to-Speech(S2S)モデルと、裏で並行して動くバックエンドの大規模言語モデル(LLM)をタンデム構成でつなぎ、応答の速さと回答の知識量を両立させる手法です。論文はICASSP 2026に採択されており、推論コード・ファインチューニング用コード・学習済みモデルも公開されています。名称のKAMEは日本語の「亀」に由来します。