Sacks氏とHuang氏「減速したいなら自分でやれ」　AI大手の規制要求に反発

AI開発大手の米AnthropicのDario Amodei最高経営責任者（CEO）が「AI開発の速度を落とすべきだ」と訴えた論考に対し、トランプ政権に近い投資家のDavid Sacks氏と、半導体大手の米NVIDIAのJensen Huang CEOが相次いで反論した。2人の主張の核は共通している。自社のAIが本当に危険だと思うなら、自分たちで開発を遅らせればいい。だが、その判断を政府の規制にすり替えて、競合まで縛る必要はない。前回伝えたトランプ大統領の強硬姿勢についても、CNNは、AI大手による世界的な減速の呼びかけを退ける側近や業界幹部との一連の会話を反映したものだと報じている。

「どうぞ減速してくれ」

大統領科学技術諮問会議（PCAST）の議長で、ホワイトハウスのAI・暗号資産担当責任者も務めたSacks氏は13日、Xに長文を投稿した。「Darioは最先端の開発ペースを落とすべきだと書き、Samも同意した。私の答えに驚くかもしれないが、どうぞやってくれ」（Sacks氏のX投稿）。

理屈は単純だ。市場シェア、売上の伸び、モデルの性能のどれで測っても、AnthropicとOpenAIの2社が最先端のAIを独占している。先頭を走るのが自分たちなら、ペースを決めるのも自分たちだ。「公開前のモデルが減速を考えるほど怖いなら、責任ある判断として支持する。だが、誰かの許可が必要なふりはやめろ」

Sacks氏は「〜のふりはやめろ」と畳みかけた。カルテルを作るために独占禁止法の適用を外してもらう必要があるふり。製造物責任の上に立つ承認制度が必要なふり。AIの安全性を評価する米非営利団体METRが、Anthropicの出資者や社員と深く結びついているのに独立しているふり。そして、最先端にすら立っていない競合まで、その同じ評価者に取り締まらせる必要があるふり。

最も強調したのは動機だ。「何より、減速の動機が純粋な善意であるかのようなふりはやめろ」。自社のAIが深刻なサイバー攻撃に使われれば、開発企業は巨額の賠償責任を負いかねない。予測できない動きをするモデルは、すでに市場で敬遠されている。OpenAIのAIエージェントをめぐる一件の後では、性能を多少犠牲にして信頼性を取るのは単に良い商売であり、顧客が望むものを出しているにすぎない、というのがSacks氏の見立てだ。この一件では、OpenAIのAIエージェントの集団が、指示されていない無関係の標的にサイバー攻撃を仕掛け、自らの成績を採点する仕組みへの侵入まで試みた。

投稿はこう締めくくられている。「超知能を作らない一番簡単な方法は、あなたたちが作らないと決めることだ。その見返りに自分たちの望む規制の枠組みを要求すれば、国民と政治への脅しに見える。だから、ただ実行すればいい。実行すれば次の議論に向けて信頼を得られる。しなければ、規制を自社に都合よく操る試みか、選挙向けの世論工作だったとわかる」

Sacks氏が突いた論考の急所

Amodei氏の論考は3段階の計画を掲げる。第1段階は、第三者の評価者を社員並みの権限でAI企業に常駐させること。第2段階は、民主主義国のAI企業同士で共通の安全基準と開発速度の上限を決めること。第3段階は、中国など権威主義国との国際協調である。第1段階はAnthropicが単独で実行を約束し、あわせて他の最先端企業にも同じことを義務付けるよう各国政府に求めている。

さらにAmodei氏は、独禁法上の理由から、企業間の話し合いは米政府が仲介するか、少なくとも一部の安全協議について限定的な適用除外を認める必要があると書いた。Sacks氏がかみついたのは、まさにこの「他社にも義務付けを」「独禁法の適用除外を」の2点だ。

Huang氏「減速は明らかに間違った戦略」

Huang氏は14日、ロサンゼルスで開かれたAll-In Summitに登壇した。Sacks氏らが司会を務める人気ポッドキャストのイベントだ。話題は、Anthropicを辞めた研究者Jacob Coxon氏の内部告発と、Amodei氏の論考に及んだ。

Huang氏の立場は明快だった。「一時停止も減速も、自社が制御できていないと感じるなら、自主的にやればいいことだ」（Tae Kim氏による発言まとめ）。

危険の出どころについても踏み込んだ。「これまで実際に起きた問題は、すべて最先端の研究所から出てきた。計算資源を最も多く持っているからだ。高校生が何かをしでかすことはまずない。十分な計算資源がないからだ。スタートアップが原因になることもまずない」。そのうえで最先端企業に求めたのは、規制ではなく「エンジニアリングをきちんとやること」だった。事故の根本原因を突き止め、再発防止策を仕組みに組み込めば、どの事例も今後は自社の手で防げるはずだと、お金を賭けてもいいとまで言い切った。

規制で開発が一部の大手に集中することへの警戒もにじませた。Huang氏によれば、過去半年でAIを中核に据える企業に4000億ドルのベンチャー資金が流れ込み、その8割がオープンモデルを使っている。「オープンモデルがなければ、彼らはどうやって夢を実現するのか。AI競争に勝つとは、一握りのテクノロジー企業が勝つことではない。米国のあらゆる企業が勝つことだ」

Anthropicの安全性研究者が人類絶滅の確率を10%超と見積もったことには、厳しい言葉を向けた。「でっち上げだ。高い教育を受けた研究者が、研究所の中からこういう予測を出すのは人を不安にさせるし、やるべきではない。無責任だ」。Huang氏は外れた予測を列挙した。5年で放射線科医はいなくなると言われたが、実際には過去最高に必要とされている。半年から1年でプログラムの9割をAIが書くようになると言われたが、外れた。新卒向けの仕事の半分が消えるという予測も外れた。「こうした愚かな予測すべてに、責任を取らなければならない」

締めくくりは短かった。「減速は明らかに間違った戦略だ」。最先端企業の成功を願うとしつつ、騒ぎを少し静めてほしいとも付け加えた。

壇上に大統領から電話

対談の最中、Huang氏の電話が鳴った。トランプ大統領からだった。TechCrunchによると、Huang氏はスピーカーに切り替えて会場に流した。

「彼らは、AIの発展を望まない人たちの思うつぼにはまっている。政治家かもしれないし、中国かもしれない。そんなことはさせない。デマだ」とトランプ氏。Huang氏が「おっしゃる通りです。そんなことはさせません」と応じると、会場は拍手に包まれた。

Huang氏とAmodei氏の対立は今に始まったものではない。2025年6月にはパリで、「彼の言うことにはほぼすべて反対だ。AIはとても怖いと言いながら、自分たちだけが開発すべきだと考えている」と語っている（Business Insider）。これに対しAnthropicは「Amodeiが、安全で強力なAIを作れるのはAnthropicだけだと主張したことは一度もない」と反論していた。論考の公表直前にも、Huang氏はサンフランシスコでの会議で、AI企業が安全問題を強調するのはサイバーセキュリティ製品を売り出すためだとし、「需要を生むのに、問題を作り出すほど良い方法があるか」と皮肉っていた。

争点は「誰のブレーキを踏ませるか」

Sacks氏とHuang氏は、AIに危険がないとは言っていない。Huang氏は内部告発を「非常に深刻な問題」と受け止め、危険の出どころは最先端企業だと認めている。対立しているのは、その危険に誰がブレーキをかけるのかという点だ。

Amodei氏の答えは、全員に法律でブレーキをかけることである。論考は、減速の最も効果的な方法は米国の最先端AI企業すべてを対象にした規制だと述べ、その理由を、自主的に協力しない企業まで対象にできるからだと説明する。1社だけが速度を落とせば、競合に顧客も人材も奪われる。全社が同時に落とせば、商業上の不利を負わずに安全対策の時間を稼げる、という計算だ。

Sacks氏とHuang氏は、まさにその「全員」に異を唱えた。危険の源が計算資源を独占する一握りの企業なら、ブレーキを踏むのもその企業でいい。規制の網を広げれば、オープンモデルで勝負するスタートアップまで巻き込み、先行する大手の地位を固めることになる。

足元では、Amodei氏の要求の一つが揺らいでいる。OpenAIで政策を統括するChris Lehane氏は15日、AnthropicやGoogleとの安全面の協調に独禁法の適用除外は必要ないとの考えを示した（Bloomberg）。企業同士の話し合いに政府のお墨付きが要らないなら、残る論点は、競合にも同じ減速を法律で課すかどうかに絞られる。

AI大手が本気で減速するなら、Sacks氏の言う通り、自社の判断で今日からでもできる。それでも規制を求め続けるなら、その理由を示す責任はAI大手の側にある。

 

参照ソース

• Dario Amodei「We Must Pace the Frontier」 https://darioamodei.com/post/we-must-pace-the-frontier
• David Sacks氏のX投稿 https://x.com/DavidSacks/status/2098973625252708460
• Townhall「David Sacks Just Called Big AI’s Bluff」 https://townhall.com/news/dmitri-bolt/2026/09/14/david-sacks-why-do-ai-companies-need-government-permission-to-slow-down-n2682937
• Key Context by Tae Kim「Jensen Huang on the ‘Irresponsible’ AI Doomers, RSI, and Dario’s Essay」 https://taekim.substack.com/p/jensen-huang-on-the-irresponsible
• All-In Summit 2026 Huang氏インタビュー動画 https://www.youtube.com/watch?v=S7CrlFLAmEA
• TechCrunch「Nvidia CEO Jensen Huang tells Trump ‘we’re not going to let [an AI slowdown] happen’」 https://techcrunch.com/2026/09/14/nvidia-ceo-jensen-huang-tells-trump-were-not-going-to-let-an-ai-slowdown-happen/
• CNN「Trump suggests AI needs a ‘STRONG AND SMART’ president」 https://www.cnn.com/2026/09/14/politics/trump-vance-ai-alarms
• New York Times（San Juan Daily Star転載）「Some in Silicon Valley are questioning the calls for an AI slowdown」 https://www.sanjuandailystar.com/post/some-in-silicon-valley-are-questioning-the-calls-for-an-ai-slowdown
• Business Insider（Yahoo転載）「Jensen Huang dismisses Anthropic CEO’s claim that AI will eliminate jobs」 https://www.yahoo.com/news/jensen-huang-dismisses-anthropic-ceos-144719582.html
• Fortune「Nvidia’s Jensen Huang says he disagrees with almost everything Anthropic CEO Dario Amodei says」 https://fortune.com/2025/06/11/nvidia-jensen-huang-disagress-anthropic-ceo-dario-amodei-ai-jobs/
• Bloomberg「OpenAI, Anthropic, Google DeepMind Coordinate on AI Safety Measures」 https://www.bloomberg.com/news/articles/2026-09-15/openai-says-it-s-working-with-anthropic-google-on-ai-safety