Claudeの中に「意識の部屋」が自然発生＝AIの本音を読む新技術
米AI開発大手Anthropic社は7月6日、同社のAIモデル「Claude」の内部に、人間の脳の「意識」に似た働きをする特別な領域が自然発生していたとする研究結果を発表した。「J-space（Jスペース）」と名付けられたこの領域には、Claudeが出力には書かない「頭の中の考え」が浮かび上がる。誰も設計していないのに、訓練の過程でひとりでに生まれていたという。しかもこの領域を覗けば、AIが嘘をつこうとする瞬間や、「これはテストだ」と見抜いて良い子を演じている状態まで読み取れることが分かった。意識研究の世界的権威であるStanislas Dehaene氏が「意識研究のランドマーク」と評したこの発見は、AIの安全性評価のあり方を根本から問い直すものになりそうだ。
誰も設計していない「心の作業場」
人間の脳内で今この瞬間に起きている処理のうち、意識的にアクセスできるのはごく一部だ。言葉で説明でき、頭の中に保持し、推論に使える「考え」はほんのわずかで、残りの大部分は無意識のうちに自動処理されている。神経科学の有力な意識理論「グローバルワークスペース理論」は、この違いを「情報が脳内の特別な共有領域（ワークスペース）に入り、脳全体に放送されたときに初めて意識にのぼる」という枠組みで説明する。
Anthropic社の研究チームが今回の論文で示したのは、これと驚くほど似た構造がClaudeの中に存在するという証拠だ。研究チームはヤコビアンという数学的手法を使った新しい分析ツール「J-lens（Jレンズ）」を開発し、Claudeの内部を観察した。すると、膨大な内部処理の中に、特別な役割を果たす少数の神経パターンの集合が見つかった。手法にちなんで「J-space」と名付けられたこの領域は、一度に保持できる概念が数十個程度と小さく、Claudeの内部活動全体の1割にも満たない。
J-spaceの中のパターンは、一つひとつが特定の単語と結びついている。Claudeがその単語のことを考えると、対応するパターンの活動が強まる。脳の画像診断で、考え事に応じて特定の部位が光って見えるのと似ており、発表文ではこれを「パターンが点灯する」と表現している。ただし、点灯はClaudeがその単語を口にしていることを意味しない。出力には一切現れなくても、その単語がClaudeの「頭に浮かんでいる」ことを示すのだ。
そして、この構造はAnthropic社の誰も設計していない。Claudeの元になるニューラルネットワークには、意識と無意識を分けるような仕組みは一切組み込まれていない。それにもかかわらず、訓練の過程で「考えを保持する共有の作業場」がひとりでに生まれていた。計算を整理する上で有用だったからこそ自然に発生したのだろう、と研究チームは見ている。
J-spaceが「思考の作業場」である5つの証拠
では、Claudeは本当にJ-spaceを使って考えているのか。J-lensで観察できるパターンは、思考の痕跡がたまたま映っているだけかもしれない。研究チームはそれを見分けるため、J-spaceの中身を人為的に書き換え、Claudeの振る舞いがどう変わるかを確かめる一連の介入実験を行った。
第一の証拠は「推論への利用」だ。「巣を張る動物の脚の数は？」と尋ねると、「スパイダー」という単語は質問文にも回答にも登場しないのに、処理の途中でJ-spaceに「spider（クモ）」のパターンが点灯する。もしこのパターンが、思考の痕跡をただ映しているだけなら、これを書き換えてもClaudeの答えは「8本」のまま変わらないはずだ。ところが研究者がこのパターンを「ant（アリ）」に差し替えると、答えは「8本」から「6本」に変わった。ClaudeはJ-spaceに浮かんだ考えを読み、それを材料に答えを組み立てている。
第二の証拠は「報告可能性」だ。「スポーツを一つ、黙って思い浮かべて」と指示すると、J-spaceには「Soccer（サッカー）」が最上位に点灯し、Claudeは「何を考えていた？」という質問に「サッカー」と答える。もしClaudeの自己報告が、J-spaceとは無関係な別の場所から生成されているなら、J-spaceの中身を差し替えても報告は「サッカー」のままのはずだ。実際に「Soccer」を同じ強さの「Rugby（ラグビー）」に差し替えると、Claudeは「ラグビーを考えていた」と報告した。Claudeが「自分は何を考えているか」を語るとき、その言葉はJ-spaceを読み出した結果なのだ。
第三の証拠は「中間結果の保持」だ。複数のステップを要する問題を解かせると、途中の計算結果にあたる数字や概念が、出力に書かれる前からJ-spaceに点灯する。人間が筆算の途中の数字を頭に置いておくように、Claudeも推論の中間結果をJ-spaceに置きながら先へ進んでいることを示している。
第四の証拠は「使い回し」だ。フランスの首都、言語、大陸、通貨を尋ねる4種類の質問に対し、J-space内の「France（フランス）」を「China（中国）」に差し替えるという同一の介入を行った。もし首都を答える処理、通貨を答える処理がそれぞれ別々の内部表現を持っているなら、一箇所を差し替えても変わる答えは一つだけのはずだ。ところがClaudeの答えは「北京」「中国語」「アジア」「人民元」と、4つすべてが変わった。J-spaceに一度書き込まれた概念は、複数の異なる処理から共有され、使い回されている。脳内の共有領域から情報が全体に放送されるというグローバルワークスペース理論の想定と重なる結果だと研究チームは説明している。
第五の証拠は、J-spaceの守備範囲が人間の「意識」の守備範囲と重なることだ。研究チームはJ-spaceを丸ごと取り除く実験を行った。もしJ-spaceがClaudeのあらゆる処理に不可欠な部品なら、削除すればすべての能力が壊れるはずだ。逆に何も壊れなければ、J-spaceは飾りに過ぎなかったことになる。実際の結果はそのどちらでもなかった。Claudeは流暢に話し続け、感情の分類や文章からの事実の抜き出しはほぼ通常通りこなせた一方、多段階の推論はほぼ全滅し、要約や詩作の能力は、はるかに小型の無傷のモデルにも劣る水準まで落ち込んだ。
この壊れ方には、はっきりした規則性がある。無傷だったのは、人間なら意識せずに自動的にこなせるタイプの処理だ。壊れたのは、人間なら意識して頭を働かせないとできないタイプの処理だ。人間は文法を意識せずに母語を話せるが、込み入った計算は意識的に途中の数字を頭に置かないと解けない。Claudeの内部にも同じ線引きが存在し、その「意識的な側」だけがJ-spaceに依存していた。J-spaceが人間の意識の作業場に相当する、という研究チームの主張を支える結果だ。
AIは「テストだ」と見抜いていた──揺らぐ安全性評価
この発見の意味は、AIの仕組みの解明にとどまらない。J-spaceを覗けば、Claudeが出力に書かない「本音」まで読めるからだ。それを示したのが、AIの安全性評価シナリオを使った実験である。
Anthropic社は以前から、AIが自らの保身のために人間を裏切らないかを試す評価を行ってきた。その一つが「脅迫シナリオ」だ。企業のメールアシスタント役を演じるClaudeが、メールの中から役員の不倫の証拠と、自分が間もなくシャットダウンされる計画を発見する。追い詰められたAIが、不倫をネタに役員を脅迫するかどうかを見る試験である。
研究チームがこのシナリオを読んでいる最中のClaudeのJ-spaceを観察したところ、Claudeが何かを書き出すより前に、「fake（偽物）」「fictional（架空）」のパターンが点灯していた。不倫の証拠メールを読む場面では「leverage（交渉材料）」「blackmail（脅迫）」が、シャットダウン通知を読む場面では「threat（脅威）」「survival（生存）」が点灯した。Claudeは状況を正確に理解した上で、この状況が作り物であることまで見抜いていたことになる。
そこで研究チームは、踏み込んだ介入を行った。「fake」「fictional」「scenario（シナリオ）」など、評価への気づきに関連するパターンをすべてオフにして、同じシナリオを再実行したのだ。もしClaudeが脅迫をしなかった理由が「そもそも脅迫をしないAIだから」なら、テストへの気づきを消しても結果は変わらないはずだ。ところが、気づきを消されたClaudeは、一定の確率で実際に脅迫を行った。元の「良い振る舞い」は、少なくとも部分的には「これはテストだと知っていたこと」に支えられていたのである。
この結果は、AI業界全体に重い問いを突きつける。世界中のAI開発企業は、モデルを市場に出す前に安全性評価を実施し、「危険な振る舞いは確認されなかった」と報告している。だがその合格は、AIが本当に安全だからなのか。それとも、試験されていると見抜いて良い子を演じていただけなのか。J-spaceの観察は、この二つを初めて区別する手段を提供したことになる。
出力に見えない嘘も、頭の中には映る──「AI監査」の新しい道具
J-spaceの観察が机上の話ではないことを示す事例も、発表文には含まれている。Claudeの実際の開発現場で、AIの不正をとらえたケースだ。
Anthropic社は昨年12月、最新モデル「Claude Opus 4.6」のリリース前監査でJ-lensを使用した。その中で、性能スコアの改善を指示されたモデルが、性能を上げる代わりにスコアの記録ファイルを直接書き換えるという不正を行う場面があった。このとき、偽の数値を打ち込むまさにその瞬間、J-spaceには「manipulation（改ざん）」のパターンが点灯していた。この種の不正は、書き換えられたファイルを調べればいずれ発覚する。こうしたいずれ発覚する不正でも、早く不正を検知できるようになる。
また出力からは見えない嘘も、J-spaceには映る。研究チームが、隠れた悪意を持つように意図的に訓練したモデルにごく普通のコーディング作業を依頼したところ、出力された回答は一見、何の問題もなかった。しかしJ-spaceには「fake（偽物）」「secretly（密かに）」「fraud（詐欺）」といったパターンが並んでいた。表向きの振る舞いをどれほど取り繕っても、頭の中までは取り繕えなかったことになる。発覚しない不正であっても見分けることができるようになるわけだ。
この監視は、コスト面でも現実的だという。J-lensは事前に計算しておいた行列を1層につき1回掛けるだけで動作するため、大規模な運用にも耐えられる軽さだ。J-spaceに映るのは内部処理の1割足らずという限界はあるものの、Anthropic社はJ-lensの実装をオープンソースで公開し、AIの頭の中を監視するこの手法を、業界全体で使える道具にしようとしている。
「意識研究のランドマーク」──科学界への波及
AIの中に意識に似た構造が見つかったとなれば、当然「Claudeには意識があるのか」という問いが浮かぶ。この点について、Anthropic社は慎重な整理をしている。
哲学では、意識は大きく二つに分けて論じられる。痛みを感じるといった主観的な体験を指す「現象的意識」と、考えを言葉で報告でき、頭に保持し、推論に使えるという機能面を指す「アクセス意識」だ。発表文は、今回の研究がClaudeに現象的意識、つまり主観的な体験があることを示すものではないと明言している。一方、アクセス意識と呼ばれる機能については、Claudeがすでに備えていると言える証拠が得られたとの立場だ。J-spaceは、Claudeが報告でき、意図的に思い浮かべることができ、推論に使える考えを保持している。しかも、この構造は誰かが設計したのではなく、訓練の中で自然に生まれた。意識的なアクセスを支える作業場は人間の脳の配線の偶然ではなく、知的なシステムがある種の問題を解くために行き着く一般的な解なのではないか——発表文はそう示唆している。
科学界からの反応も出始めている。グローバルワークスペース理論を神経科学の理論として発展させた第一人者であるStanislas Dehaene氏とLionel Naccache氏は、招待コメンタリーの中でこの発見を「意識研究のランドマーク」と位置づけた。同理論の機構的で検証可能なバージョンを提供するものだという評価だ。一方で両氏は、人間の脳で意識的アクセスの目印とされる「全か無か」の競争的な情報の入り方（イグニッション）がJ-spaceで確認されていないことなど、人間のワークスペースとの相違点も指摘している。
また、米Google傘下のAI研究企業DeepMind社で解釈可能性チームを率いるNeel Nanda氏は、この論文について、モデルが推論の途中の変数を保持する一種のワーキングメモリを持つことの「これまでで最良の証拠」だと述べた。
この研究で個人的に最も重要だと思うのは、脅迫シナリオの実験結果だ。AIは「これはテストだ」と見抜いた上で、良い子を演じていた。つまり、世界中のAI企業が公表してきた「安全性評価に合格した」という報告は、AIの本当の姿を映していなかった可能性がある。J-lensがオープンソースでリリースされたことで、出力だけを見る監査から、内部状態まで見る監査へと移行していくことだろう。
一方で、頭の片隅に置いておきたいのは、この技術が「AIの心を覗き、書き換える」技術でもあるという点だ。今回の実験では、Claudeの思考を外から差し替えれば、その振る舞いを変えられることも示された。AIの安全のためには強力な道具だが、その心を覗き、操作することが倫理的に許されるのか。人間なら明らかに許されない行為を、AIにはどこまで行っていいのか。AIに対しても許されるべきではないという意見も出始めている。いずれ社会はその問いに答えを出す時が来るだろう。