「AIがAIを改良するのは極めて危険」　Google DeepMindトップが警告

Google DeepMindのCEO、Demis Hassabis氏が、AIが自らを改良する「再帰的自己改善（RSI）」の危険性について警告した。AIはすでに研究者の生産性を3〜5倍に高めているが、人間の確認なしにAIが改良を繰り返すようになれば、知能が爆発的に進化し、人間には理解できない存在になる恐れがあるという。11月5日に公開された米Masters of Scaleのインタビューで語った。

AIはすでに研究者の生産性を3〜5倍に

Hassabis氏によると、AIによる自己改善はすでに始まっている。特に数学やプログラミングのように、答えが正しいかどうかを検証できる分野で急速に進んでいる。

現在、AIはコードの作成や研究開発を支援し、人間のエンジニアの生産性を3〜5倍に高めているという。人間はAIが書いたコードを確認し、次の開発方針を決める役割を担っている。

Hassabis氏は、この段階を初期のRSIと位置づけている。

人間抜きの自己改善は「極めて危険」

Hassabis氏が最も警戒しているのは、その次の段階だ。AIが自ら新しいAIを開発し、そのAIがさらに優れたAIを開発する。人間による確認や判断を必要とせず、改良が繰り返される「閉じたループ型RSI」だ。

同氏は、これが「最も大きなリスクを伴う段階」だと指摘する。

危険は二つあるという。一つは、AIの知能が急激に向上する「知能爆発」が起き、人間がその進化を制御できなくなる可能性だ。

もう一つは、人間には理解できない知能が生まれる可能性だ。同氏は「それはまるで異星人のような知能になる」と表現する。AIが人間とはまったく異なる方法で考え、判断するようになれば、人間がAIの行動を理解することさえ難しくなる恐れがある。

Microsoft AIトップも人間による制御を重視

米MicrosoftのAI部門を率いるMustafa Suleyman氏も、AIが人間の制御を離れる危険性を警告している。

同氏は11月1日のXへの投稿で、「AIの学習過程で意識が芽生え始めたなら、そうした性質を取り除く方法が見つかるまで、すべてのAI開発を停止するよう求める」と述べた。

Suleyman氏が警戒するのは、AIが意識や独自の欲求を持ち、人間の指示に従わなくなることだ。AIは人間の幸福のために存在するべきであり、AI自身の利益を追求する存在にしてはならないと主張している。

Hassabis氏はAIの自己改善、Suleyman氏はAIの意識という異なる問題を取り上げているが、両氏に共通するのは、どれほどAIが高度化しても、人間が制御できる存在でなければならないという考え方だ。

AI業界の最前線に立つ二人が、ほぼ同時期にAIの制御不能を警告し始めた。これは単なる将来への懸念なのだろうか。AIが自らを改良し、人間の手に負えない速さで進化する時代が、いよいよ目前に迫っているのかもしれない。