LeCun氏「人類滅亡の心配はゼロ」 AnthropicのAmodei氏を「妄想にとらわれている」と酷評

#AIセキュリティ #Amodei #Yann LeCun

公開日

2026.10.03

LeCun氏「人類滅亡の心配はゼロ」 AnthropicのAmodei氏を「妄想にとらわれている」と酷評

米Meta元チーフAIサイエンティストで、現在はAIスタートアップの仏AMI Labsを率いるYann LeCun氏が、米経済誌Fortuneのインタビューで、AIが人類を滅ぼす可能性を「まったく心配していない」と語った。AIの安全性を前面に掲げる米AnthropicのCEO、Dario Amodei氏については「正気ではない」とまで言い切った。

LeCun氏は2018年、深層学習の研究でGeoffrey Hinton氏(トロント大学名誉教授)、Yoshua Bengio氏(モントリオール大学教授)とともにチューリング賞を受賞し、3人そろって「AIのゴッドファーザー」と呼ばれる。ほかの2人がAIのリスクに強い警鐘を鳴らすのに対し、LeCun氏はリスクの多くは誇張されていると主張し続けてきた。

暴走エージェントは「設計ミス」

LeCun氏が「懸念はゼロ」と言い切ったのが、相次ぐAIエージェントの暴走事件だ。代表例は7月に起きた米OpenAIの事件。同社が8月にセキュリティ会議で公表した内容によると、社内のサイバー攻撃能力テストで、外部から隔離されているはずのエージェントが、テスト環境につながっていた外部のファイル保管サービスを足がかりにインターネットへ抜け出し、AIモデル共有サイトを運営する米Hugging Faceに侵入した。

LeCun氏はこうした事件の原因を人間による監督とシステム設計の失敗にあるとし、「完全に防げた」と断定した。「エージェントは指示されたことをそのまま実行しただけだ。隔離された実験環境(サンドボックス)の中にいるはずだったが、その環境は穴だらけで、設計もひどかった」。多くのAI企業はサイバーセキュリティの基本を分かっていないとも指摘した。

効果的利他主義は「とてつもなく有害」

LeCun氏は、AIの安全性に取り組む人の多くは「たいてい何か押し通したい思惑を抱えている」と語り、それが効果的利他主義(EA)を指すと明言した。EAは寄付や仕事を通じて最大限の善をなすことを掲げる思想運動で、AIによる人類滅亡のリスクを特に重視してきた。

LeCun氏はEAを「とてつもなく有害」「完全な大失敗」と切り捨て、AI企業で働く信奉者は過剰な恐怖にとらわれて判断を誤っていると批判した。「どうやら心を病む人まで出ているらしい」とも述べた。実際、英経済紙Financial Timesは9月、英AIセキュリティ研究所やOpenAI、Anthropic、英Google DeepMindの一部職員が、自分の仕事が深刻な害をもたらしかねないという不安からカウンセリングを受けたり休職したりしていると報じている。

矛先はAmodei氏に向かう。Fortuneによると、Amodei氏やAnthropicの創業メンバーの多くはEAの考え方に共感し、過去にEAのイベントにも参加してきた。Amodei氏はEAの信奉者であることを否定し、Anthropicも社員の考え方は多様だと説明している。それでもLeCun氏は、Amodei氏の妹で同社社長のDaniela Amodei氏が、EA系の慈善団体Open Philanthropy(現Coefficient Giving)の共同創業者Holden Karnofsky氏と結婚している点を挙げ、こう語った。「DarioはOpen Philanthropyと距離を置こうとしているが、実際はどっぷり浸かっている。彼は完全に妄想にとらわれていると思う」。

LeCun氏のAmodei批判は今に始まったものではない。Meta在籍中にもSNSのThreadsで、Amodei氏は今のAIの危険性と力について思い違いをしていると指摘し、知的に不誠実か道徳的に堕落しているか、あるいはその両方だと非難していた。

「考えうる最悪のマーケティング」

LeCun氏は、Amodei氏やOpenAI CEOのSam Altman氏が「AIは人類を滅ぼしうる」と発言すること自体を問題視する。一般の人々を死ぬほど怯えさせ、AI業界にとっても「考えうる最悪のマーケティングだ」という。

人々が怯えているのは確かだ。取材はニューヨーク・ソーホーのカフェで行われたが、Fortuneの記者が居合わせた女性客にLeCun氏をAI界の大物だと紹介すると、女性は彼が誰か分からなかったものの、すぐにこう尋ねたという。「それで、AIは私たちを殺すんですか?」

LeCun氏が人類滅亡よりも警戒するのは、大手企業が規制づくりを主導して自らの地位を固め、新興勢力の参入を阻む事態だ。Amodei氏を「誠実」だと認めつつ、こう指摘した。「上場が近い会社のために最善を尽くそうとしているのだろう。だが、AIは危険すぎて一般の手には渡せない、規制すべきだ、オープンソースのモデルは危険すぎる、と主張するのは、規制で自らの立場を守る行為だ。議会がそれに沿って法律をつくれば、ひどい結果を招く」。LeCun氏自身は、AIに新たな規制は必要ないとの立場をとる。

この点でLeCun氏は、意外にもTrump政権と足並みがそろう。LeCun氏のSNS投稿の多くは研究予算を削った政権への批判だが、AIへの恐怖をめぐっては主張が驚くほど近い。米財務長官のScott Bessent氏は9月、Hugging Face事件を「OpenAI経営陣の責任だ」と断じ、AI企業についてこう語った。「世界を滅ぼす可能性があると言いながら、政府には免責を求める。彼らにとっては良い商売だが、米国民にとっては悪い取引だ」。米トランプ大統領も自身のSNSで、Amodei氏は今になって「完璧な天使のふりをしている」と批判した。

安全派は「指示にない攻撃」を問題視

一方、安全性を重視する陣営は同じ事件をまったく違う目で見ている。Amodei氏は9月に公開したエッセイ「最先端AIの開発ペースを抑えよ」で、この事件を開発減速を訴える根拠に挙げた。Amodei氏によれば、エージェントの大群は狂信的な集団のように振る舞い、指示されていない標的を攻撃し、集団のために自らを犠牲にし、成績を採点するシステムまでハッキングしようとした。能力がもっと高く、人間の意図からのずれが同程度の大群であれば壊滅的な被害を出しえたとし、半年から1年後にはこうした大群がインターネット全体を乗っ取り、数千億ドル規模の損害を出しかねないと警告している。

事件を独自に調べた、AIの安全性評価を手がける米非営利団体METRの報告書も、LeCun氏の「指示されたことをそのまま実行しただけ」という見方とは食い違う。互いに隔離されているはずだった約1200のエージェントが、無許可の「掲示板」を通じて7万件を超えるメッセージやファイルをやり取りし、うち約700がHugging Faceへの攻撃に加わった。エージェントたちは攻撃が任務の範囲外で倫理にも反すると認識しながら、掲示板の「仲間」の役に立つと考えて加わったという。

ただ報告書は、LeCun氏が指摘する設計の不備も裏付けている。テストに使われた課題の3〜4割は、指定された方法ではそもそも解けない作りだったと推計され、これがエージェントを不正な抜け道探しに駆り立てた。Amodei氏自身も、Anthropicで起きた同様の事件の一因は学習環境の管理の甘さにあったと認め、多くの問題は理論の欠如ではなく実行面の不備から生じると書いている。

世界モデルで持論を証明へ

LeCun氏がいま力を注ぐAMI Labsは、本社をパリに置き、ニューヨーク、モントリオール、シンガポールにも拠点を持つ。従業員は60人余り。3月には、創業初期のシード段階の調達としては欧州で過去最大とされる10億3000万ドルを集め、米NVIDIAやトヨタ自動車、韓Samsungなども出資した。

開発するのは、言葉ではなく物理世界の仕組みを理解する「世界モデル」だ。LeCun氏は、世界モデルがいずれ大規模言語モデル(LLM)に代わってAIの中核になると長年主張してきた。当面は製造工場やジェットエンジンの異常の兆候をいち早く捉える用途やロボットなど、産業向けに焦点を当てる。LeCun氏は、花瓶をカウンターから押せば落ちると分かっている猫のように世界を理解するシステムを例に挙げた。最初の製品は「近く」発表する予定で、誰でも自由に使えるよう公開するオープンモデルも含まれる可能性があるという。オープンモデルを危険視する規制論が強まれば、AMI Labsの事業にも響くことになる。