AIがAIを作る時代、社会はAI進化の制御の仕組みを構築できるか

AIの研究をAIが担うようになれば、性能向上のペースは今より速くなるかもしれない。政府がAIのリスクを調べ、規制を整えている間にも、次のAIが生まれる。AIの進歩に、安全対策は追いつけるのか。

AI安全政策を提言する米非営利団体Secure AI Projectの共同創業者・CEO、Nick Beckstead氏は、テクノロジーなどを扱う番組MTSのインタビューで、この事態に備える仕組みを求めた。政府が、AI企業の研究開発に使われる計算資源を制限し、必要に応じてAIの開発速度を落とせるようにするという提案だ。

安全対策を考える間に、次のAIが生まれる

AIがより性能の高いAIを開発し、できあがったAIが次の開発を担う。この循環が続けば、人間の研究者だけで開発を進める場合よりも、次の成果が出るまでの時間が短くなる可能性がある。こうした仕組みは「再帰的自己改良」と呼ばれる。

同氏は、今後1年ほどで完全自動のAI研究者が実現するという話を多くの人がしていると紹介した。そのうえで、「進歩の速さが今の数倍になるかもしれない」と述べた。

同氏が懸念するのは、AIがもたらすさまざまなリスクに対応する規制を整えても、技術の進歩に追いつけなくなることだ。2027年1月に適切な対策と、2028年1月に適切な対策は違うかもしれないと指摘する。研究がさらに速くなれば、政府はもっと短い間隔で、新しいリスクを把握し、対策を更新しなければならなくなる。

一社だけでは、開発を遅らせにくい

開発を遅らせて安全確認の時間を確保したくても、一社だけが減速すれば競合に先を越されかねない。国同士にも同じ問題がある。2026年7月に公表された共同声明「Pacing the Frontier」は、こうした競争圧力を指摘し、必要に応じてAI開発の速度を調整できる技術と制度を国際的に整備する取り組みへの支援を、米政府に求めた。

声明のサイトには、10月30日時点でAI企業の従業員1,386人が署名者として掲載されている。米OpenAIの最高科学責任者Jakub Pachocki氏や、AI開発のAnthropicのCEO、Dario Amodei氏らも名を連ねる。

研究開発に使う計算資源で、速度を調整する

では、開発の速さをどう調整するのか。Secure AI Projectの10月9日付の提案は、カリフォルニア州緊急事態対策局にその役割を担わせるものだ。まずAIの能力がどの程度の速さで向上しているかを測り、重大な危険を招かずに進められる速度を判断する。

その速度を超えそうな場合には、新しいAIの学習や、AIを使った研究開発に振り向ける計算資源の割合を制限する。つまり、企業が持つコンピューターの処理能力のうち、次のAIを生み出すために使える分を絞る。これによって開発のペースも抑えられるという考えだ。

「安全な速さ」を、誰が決められるのか

計算資源による制限に対しては、インタビューの聞き手が疑問を投げかけている。AIの開発手法が改良されれば、同じ性能を実現するために必要な計算量は減る。それでも計算資源を制限すれば、進歩の速さを抑えられるのか、という問いだ。同団体のトップも、この方法を“a blunt tool”（大ざっぱな手段）と認めた。将来は少ない計算量で最先端AIを改良できるようになる可能性があり、その時期は分からないと述べている。

同団体の提案には、安全に進められる開発速度の具体的な上限値は示されていない。AIの能力だけでなく、新たに見つかるセキュリティ問題や安全対策の進展を踏まえ、州の機関が判断する想定だ。

国際競争の問題も残る。他国の企業が同じ制限に従わなければ、カリフォルニア州の企業は競争上の優位を失う可能性がある。同団体は、開発速度を制限する政策の効果と不利益を比較する際、国際競争への影響も考慮すべきだとしている。

これまでは、AIをどこまで賢くできるかが焦点だった。AIが自らを改良する時代が近づく今、社会はその進化の速さを制御する仕組みを築けるのか。この問いが、AI政策の大きな論点になろうとしている。