Anthropicは、Claudeモデル内部に設計も予想もしていなかった構造を発見した。「J-space」と呼ばれる内部構造が、モデル全体で共有される認知的なワークスペースのように機能することが判明した。
7月6日に発表された本研究は、大規模言語モデルの内部で実際に何が起きているかの解明に向けた大きな一歩となる。
ClaudeにおけるJ-spaceとは何か
J-spaceは、Claudeがモデル内で重要な情報を集約・共有するとみられる内部領域である。平易に言えば、AI内部のホワイトボードのような場所だ。
Claudeが質問に答えたり、パズルを解いたり、指示に従ったりする際、この共有領域に重要な情報が現れ、モデルの異なる部分で活用されると考えられる。
Anthropicは「J-lens」と呼ばれる研究ツールを使い、J-spaceを発見した。このツールにより、タスク実行中のClaude内部で情報がどのように移動するかを観察できる。J-spaceは訓練過程で自発的に生じたものであり、Anthropicが直接設計したものではない。
この発想は、神経科学の「グローバルワークスペース理論」と類似している。
人間の場合、脳が重要な情報を複数の精神的プロセスに同時に利用できるようにする仕組みを指す。たとえば、質問を聞き、事実を思い出し、回答を決めるといった複数の情報が統合される。
Claudeも同様の機構を有しているようだ。AnthropicはClaudeにJ-spaceの内容を尋ねると、説明できることを発見した。また、指示があればその内容を修正することも可能だ。
さらに重要なのは、研究者がJ-spaceを直接書き換えると、Claudeの回答やタスク遂行結果も変化するという点である。
AIの安全性・説明性にとって何が重要なのか
この発見はAIの安全性にとって大きな意義を持つ。研究者がJ-spaceの活動を監視できれば、モデルの行動の背後にある動機を解明できる可能性がある。これにより、異常発生時の検知精度を高める手段となる。
攻撃の検出も含まれる。J-spaceの監視によって、出力を乗っ取るようなプロンプトインジェクションの試行が検知できる場合がある。さらに、この「意識的」処理層の一端を可視化できること自体が、研究分野の大きな進展である。
ただし、規模には制約がある。Claudeの情報処理の大半は依然としてJ-space以外で行われている。
それでも、AnthropicはJ-lensのオープンソース実装とNeuronpediaデモを公開し、研究コミュニティに検証を呼びかけている。
YouTubeチャンネル登録で、リーダーやジャーナリストによる専門的インサイトを提供中。
今回の研究は、以前から続く研究の延長線上にある。Anthropicは2025年10月に「自己内省的認識の出現」に関する報告書を発表。2025年4月にはモデルウェルフェアの取り組みも開始し、システム内部の解明を進めている。
ただし、重要な注意点がある。Anthropicは今回の研究がClaudeが意識や主観的経験を持つと主張するものではないと強調している。論文では「意識的にアクセス可能な情報」という表現を用いているが、実際の意識の存在を示すものではない。
