「知能爆発」は来ない？　RSI開発の当事者たちが語る「進化の限界」

AIが自分自身を改良する「再帰的自己改善（RSI）」が、まもなく本格化するかもしれない。米Anthropicは11月2日、米証券取引委員会（SEC）に提出した上場申請書の修正版で、将来のAIモデルが、AI自身による研究開発の劇的な加速を示す基準に近く達する可能性があると明らかにした。

AIが次のAIを作り、そのAIがさらに優れたAIを作る。改良を繰り返すうちに進歩の速度そのものが上がり、短期間で人間をはるかに超える超知能が生まれる。これが「知能爆発」と呼ばれるシナリオだ。

ところが11月に入り、AI研究の当事者から、このシナリオに疑問を投げかける発言が相次いでいる。興味深いのは、RSIそのものを否定しているわけではないことだ。AIによるAI開発は進むとしても、それが知能爆発につながるとは限らないという。

「AIが世界を支配しても、知能爆発は起きない」

元OpenAIのRichard Ngo氏は、11月4日公開のインタビューで、10年後、20年後にはAIが世界で最も大きな影響力を持つ存在になっているかもしれないと予測した。しかし、そこに至るまでに技術進歩の速度が突然、垂直に立ち上がるような瞬間は訪れないという。

同氏は「We’re not going to get like sudden and extreme self-improvement.」（突然の極端な自己改善は起きないだろう）と述べている。

Ngo氏が疑問視するのは、AI研究の一部を自動化できるようになったことから、研究開発全体も短期間で完全に自動化されると考える論理の飛躍だ。AIが急速に進歩することと、進歩の速度が爆発的に上がることは別の問題だという。

RSIは「魔法の杖ではない」　計算と検証が速度を制約

AIによる科学研究の自動化を手がける米Recursiveの共同創業者兼CEO、Richard Socher氏も、急激な知能爆発には懐疑的だ。

同氏は11月3日公開のインタビューで、AIはコードを書くことができ、AI自身もコードで作られている以上、RSIはほぼ避けられないと述べた。小規模な形では、すでに始まっているという。

その一方、同氏は「So RSI isn’t just this like magic bullet.」（RSIは魔法の杖ではない）と強調した。

理由の一つは計算資源だ。AIが次のモデルの改良案を考え出しても、その案が有効かどうかを確かめるには、実際に計算を実行する必要がある。問題が複雑になれば、必要な計算資源も増える。

さらに重要なのが検証の速度だ。Socher氏によれば、AIによる研究の自動化は、結果の良し悪しを短時間で判定できる課題ほど効果が大きい。1分で結果を確かめられるなら何度も試行錯誤できるが、検証に1年かかる課題では、AIがどれほど速く改良案を考え出しても研究全体の速度は上がりにくい。

AIの研究者Nathan Lambert氏も11月6日、Xへの投稿で「a lack of good enough benchmarks is a bottleneck.」（十分に優れた評価基準がないことが障害になっている）と指摘した。特に知能爆発型のRSIについての見解だ。

こちらは検証にかかる時間だけでなく、改良したAIが本当に賢くなったかを正しく判定できるのかという問題だ。既存の試験で高得点を取れるAIを作ることと、未知の問題を解決できるAIを作ることは必ずしも同じではない。

AIは人間が知らない研究手法を発見できるのか

英AI投資会社Air Street Capital創業者のNathan Benaich氏は、11月4日公開のインタビューで、別の疑問を提示した。

“It’s not yet clear though that they’re like figuring out new methods that we didn’t know before.”

「AIが私たちの知らなかった新しい手法を発見しているかどうかは、まだはっきりしない」

AIは膨大な数の候補を高速に試し、人間の研究者より効率よく最適な答えを探すことができる。しかし、それは人間が考えつかなかった研究手法そのものを発明できることとは違う。

現在のAIによる研究自動化が、人間の研究を高速化する段階にとどまっているのか。それとも、人間には発見できなかった新しい手法を生み出す段階に進んでいるのか。Benaich氏は、後者の能力が実現したとはまだ言えないと考えている。

AIが既存の研究手法を高速に実行するだけでも、研究開発は大きく進む。しかし、知能爆発を引き起こすほどの自己改善が可能なのかを判断するには、AI自身が新しい研究方法を生み出せるかどうかも重要になる。

それでもAIの進歩は約1.9倍に加速している

こうした懐疑論に対し、AIによる研究開発の加速がすでに起きていることを示すデータも出てきた。

米AI評価団体METRは11月5日、Anthropicの内部データを約11週間にわたって調査した報告書を公表した。

それによると、AnthropicのAIモデルは2025年10月以降、評価基準が明確な課題について、以前の約1.9倍の速さで能力を伸ばしている。過去の約2年間に相当する性能向上を、約1年間で達成した計算になる。

METRは、2026年10月時点で観測された加速の約80%が、AIを研究開発に利用したことによる可能性があると推定した。ただし、この数字は不確実性の大きい推測だ。重要な内部データの多くもAnthropicの要請で非公開とされている。

一方、報告書には懐疑論への反証となる重要な指摘がある。

“We did not identify any convincing bottlenecks to continued rapid progress.”

「急速な進歩が続くことを妨げる、明確な制約は確認できなかった」

METRは、少なくとも今後12カ月の進歩を妨げるような重大な制約は見つからなかったと報告している。ただし、重要な制約を見落としている可能性も認めている。

また、今回の1.9倍という数字は、主に正解を判定しやすい課題の評価結果から導かれたものだ。複雑な現実世界の研究や、未知の研究手法を発明する仕事でも同じように加速しているかは分からない。

それでも、AIがAIの研究開発を加速させていることには、具体的な証拠が出始めている。

問題は、その加速が今後も続き、さらに速くなるのかどうかだ。

RSIの実現は近づいているように見える。しかし、AIが次のAIを改良できるようになることと、改良を重ねるたびに進歩の速度が上がっていくことは同じではない。知能爆発が起きるかどうかは、AIが研究開発の制約をどこまで取り除き、加速を積み重ねられるかにかかっている。