AIも「寝ている間」に賢くなる　Anthropicが公開した新しい記憶技術

AIも人間と同じように、眠っている間に記憶を整理することで、賢くなれるのかもしれない。

米Anthropicは11月6日、AIが過去の仕事を振り返り、間違った記憶を修正したり、経験から得た知識を整理したりする技術「dreaming」を発表した。人間が睡眠中に記憶を整理する働きになぞらえた仕組みだ。

これまでAIの記憶機能は、過去の会話や仕事の記録をどれだけ多く保存できるかが重視されてきた。しかし、記憶が増えるほど、古くなった情報や間違った情報まで抱え込む問題が生じる。

今回の研究が示したのは、記憶を増やすこと以上に、記憶を整理し、更新することの重要性だ。AIが過去の経験や失敗を生かしながら、長期間にわたって仕事を続けられる可能性が見えてきた。

413個の記憶を持つAIより、10個のAIの方が優秀だった

Anthropicは、AIにゲーム『ポケットモンスター 赤』をプレーさせ、長期間の記憶をどのように管理するか調べた。

約1万ステップまで進んだ時点で、旧モデルのClaude Sonnet 3.7は413個もの記憶ファイルを作っていた。戦闘の記録、手に入れた道具、出会った人物など、あらゆる出来事を保存していたのだ。

ところが、ゲームの進行度を示すバッジは1個しか獲得できていなかった。

これに対し、新しいClaude Fable 5が保存した記憶ファイルはわずか10個。それでもバッジを4個獲得していた。

古いモデルは何でも覚えようとした結果、膨大な記録の整理に時間を取られていた。ゲームの状況が変わっても古い記憶が残るため、その確認にも手間がかかった。実際、17ステップにわたって記憶ファイルの作成や削除に追われ、ゲーム内では一歩も進まない場面があった。

新しいモデルは、現在の目標や行動計画、経験から確かめたルールなど、次の行動に役立つ情報を優先して保存していた。

異なる世代のモデルを比較した実験なので、記憶の量だけが成績の差を生んだわけではない。それでも、何を覚えるべきかを判断することの重要性が浮かび上がった。

さらにAnthropicは、AIが間違った記憶を自分で修正する事例も紹介している。

同じゲームで、Claudeは洞窟の入口と出口の位置を取り違え、誤った情報を記憶してしまった。その記憶を信じて進んだ結果、目的とは反対の方向へ向かってしまった。

そこでdreamingを使い、過去の行動記録と記憶を照合させた。するとClaudeは自分の勘違いに気づき、記憶を修正。今度は正しい方向に進み、洞窟の入口へ戻ることができた。

これは単に過去の出来事を思い出すのとは違う。過去の自分の判断を検証し、間違いを修正して、次の行動を改善したわけだ。

35万件の企業内資料を、自分で整理するAI

では、この能力は実際のビジネスでも役に立つのだろうか。

Anthropicは、買収したソフトウェア企業Stainlessの社内資料、約35万ファイル、約4億2000万トークンを使って実験した。

まずAIに資料を検索させ、社内の事業や業務に関する25の質問に回答させた。その結果、評価基準を満たした割合は53%だった。

次にAI自身に資料を読み込ませ、情報を整理したwikiを作成させた。Wikipediaのように、テーマごとに知識をまとめ、関連する情報をリンクで結びつける仕組みだ。

AIは過去の記録を読み返しながら、重複する情報を統合し、古い内容を修正し、新しい知識を追加していった。

このwikiを検索機能と組み合わせたところ、評価スコアは61%まで上昇した。質問への回答に必要な情報も見つけやすくなり、質問1件当たり約2万トークンを節約できたという。

重要なのは、AI自身が何を整理し、何を残すかを判断していることだ。

人間があらかじめ知識の分類方法を細かく指定しなくても、AIは過去の仕事から重要な情報を選び、次の仕事に役立つ形に整理できるようになってきた。

この技術は研究だけにとどまらない。AnthropicはAIエージェント向けに「Dreams」という研究プレビュー機能も提供している。過去の作業記録と保存済みの記憶を読み込み、矛盾や重複を整理して、新しい記憶を作成する仕組みだ。

例えば、企業のAIエージェントが毎日の仕事を終えた後、その日に得た知識や失敗の原因を整理し、翌日の仕事に引き継ぐ。そんな使い方が考えられる。

AIは経験を積む「社員」になれるのか

AIが長期間にわたって仕事を続けるには、過去の経験を次の仕事に生かす能力が欠かせない。

この点について、元Anthropic研究者で、AI研究企業の米Core Automationを共同創業したRohan Anil氏も興味深い発言をしている。

同氏は11月4日に公開されたインタビューで、会社の変化に合わせて学び続けるAIモデルがあれば、企業ははるかに効率よく動けると述べた。

Anil氏によれば、現在のAIには自分の失敗から素早く学ぶ仕組みが欠けている。難しい数学の問題を解ける一方で、簡単な仕事を何度も間違えてしまうのも、そのためだという。

同氏が目指しているのは、AIモデルそのものが使用中の経験から学習する「継続学習」だ。2027年には実現できるとの見通しも示している。

Anthropicのdreamingは、外部に保存した記憶を整理・更新する技術であり、AIモデルそのものを学習させるわけではない。Anil氏が目指す継続学習とは仕組みが異なる。

しかし、両者が目指す方向は共通している。AIが過去の経験を生かし、仕事を重ねるごとに能力を高めていくことだ。

これまで企業がAIを導入する際には、どのモデルが最も高性能かが重要な判断基準だった。今後はそれに加え、自社の業務をどれだけ覚え、過去の成功や失敗をどれだけ生かせるかが、重要な競争軸になる可能性がある。

人間の社員は、仕事を経験することで会社の事情を理解し、失敗から学び、少しずつ仕事がうまくなっていく。

AIも毎回ゼロから仕事を始めるのではなく、経験を積むほど頼りになる存在へと変わっていくのかもしれない。