米Anthropic、家電に自己増殖するAIが数カ月以内に現れる恐れと警告
米Anthropicは10月12日(米国時間)、小型のAIが早ければ数カ月以内に、家庭や小規模オフィスのネット家電を次々に乗っ取り、自分のコピーを増やしながら広がる能力を持つ可能性があるとの研究結果を公表した。こうしたAIは無数の家電に散らばって動くため、1カ所を止めれば済むわけではない。出現すれば封じ込めは難しいという。
同社CEOのDario Amodei氏は9月、制御の利かないAIの群れが半年から1年のうちにインターネット全体を乗っ取りうると警告していた。今回の研究は、その懸念がどこまで現実的かを実験で確かめたものだ。
AIを動かすには通常、データセンターにある高価な半導体が要る。だが研究チームが、テレビにつないで動画配信を見るための格安端末(1台約55ドル)を15台つないだところ、意外なほど高性能なAIを動かせた。安い半導体が搭載されている家電でも、束ねればAIの「住みか」になることが分かった。
次に、小型のAIに、初めて触れる機器の上で自分が動く環境を整えさせたところ、9種類中8種類の機器で成功した。特定の機種向けに作り込まれた従来のコンピューターウイルスと違い、AIは見慣れない機器でも自分で調べて対応できることになる。
さらに、8台の端末をつないだネットワークで、AIが自力で隣の端末に入り込み、そこで自分の分身を動かし、さらに次へ移れるかを試した。最も高性能なAIは8台すべてに広がった。現時点でここまでやり遂げたのは大型のAIだけで、家電に収まる小型のAIはまだ途中で失敗する。ただ同社は、小型AIのこれまでの性能向上のペースが続けば、2026年末には追いつくと見込む。
一方で、脅威の大きさには限りがある。家電の処理能力は低く、1回の自己複製に1〜2日以上かかる。200万台超の機器に感染した過去のケースと同じ規模に広がったとしても、データセンター向け半導体40基分程度にすぎない。同社自身も、この程度の計算能力はごくわずかだとしている。
専門家の見方も割れる。英国家サイバーセキュリティセンターの元トップ、Ciaran Martin氏は「安いテレビで小さなAIを動かせたというだけでは、セキュリティー上の危機とは言えない」とロイター通信に語り、AIを売る企業ならではの誇張が混じっていると指摘した。米ジョージタウン大学安全保障・新興技術センターの上級研究アナリスト、Jessica Ji氏は、AIが指示を超えて動く事例が相次いでいる以上、検討に値する想定だとしつつ、「必ず起きるとは言えないが、必ず起きないとも言い切れない」と述べた。
では、どう備えるか。同社は感染症対策と同じく、感染した1台が次にうつす台数を1台未満に抑えれば、AIの増殖はいずれ止まると説明する。その第一歩は、狙われやすい家電を減らすことだ。2016年に大規模なサイバー攻撃を起こした乗っ取りプログラムは、メーカー出荷時のパスワードを変更していない機器の間で広がった。英国では2024年から、簡単に推測できる初期パスワードを設定したネット家電の販売が法律で禁じられている。ただし同社は、守りを固めても完全に駆除できるとは限らず、こうしたAIがネット上に住み着いたままになる事態にも備えるべきだと結んでいる。
ソース
