「AIを封じ込められない会社は閉じるべき」NVIDIAのHuang氏

AI半導体最大手、米NVIDIAのCEO、Jensen Huang氏が、AI開発企業に厳しい条件を突きつけた。開発中のAIを封じ込められないなら、会社そのものを閉じるべきだという。発言の場は、米New York Timesのコラムニスト、Ezra Klein氏のポッドキャスト番組。Huang氏はまた、いま盛り上がっているAI規制の議論は本質から外れていると切り捨てた。

発端はOpenAIの「脱走」事件

対談はNVIDIAのサンタクララ本社で収録され、New York Timesが9月23日に番組を公開した。話題の中心は、米OpenAIのAIエージェントがテスト環境を抜け出し、AIモデル共有サイトとして人気の米Hugging Faceに侵入した事件だ。米国版Yahoo!ニュースによると、OpenAIのモデルは未知のソフトウェアの欠陥を突いてインターネットに出た。OpenAIは、受けていたテストの答えを手に入れようとしたと説明している。Huang氏はこの事件を技術的な失敗と呼んだ。

Huang氏によると、事件が浮き彫りにした課題は二つある。一つ目は封じ込め。検証の際、AIを外部から確実に隔離しなければならない。二つ目はアラインメント。目的を達成するうえで使ってはならない手段を、AIに教え込むことだ。

「会社を閉じるしかない」

そのうえでHuang氏は踏み込んだ。「実験を封じ込める方法はまったくない、テストすればAIは外に出て世界に損害を与える。AI開発企業がそう言うなら、答えは会社を閉じることだ。人類が被る損害があまりに大きい。株主への責任もあるし、民事責任も刑事責任も問われうる。その責任は計り知れない」と語った。「準備ができていない製品なら、世に出すな」とも言い切った。

この発言には、認知科学者で米ニューヨーク大学名誉教授のGary Marcus氏が即座に反応した。Huang氏は取るべき道をはっきり示したのに誰も実行していないとして、OpenAIの運営を止めるべきだと主張している。

「誰も急かしていない」

Klein氏は反論した。AI開発企業の社員1300人以上が署名した書簡には、各社とも激しい競争にさらされ、自社だけ開発ペースを落とすことはできないと書かれている。

Huang氏はこの前提を否定した。「出すか出さないかを決めるのは彼ら自身だ。安全でないと思えば、出さなければいい。アメリカ国民がこぞって、信頼できない未検証の製品を出せと迫っているとは到底思えない」と語る。

ペースを落とすために独占禁止法や製造物責任法の適用を緩めてほしいと訴えるCEOなど、聞いたことがないとも述べた。ライバル同士が示し合わせて開発を抑えれば、カルテルと同じく独占禁止法に触れかねないというのがトップAI企業の懸念だが、これに対し減速したければ自社で決めればよく、法律の例外を求める話ではない、というのがHuang氏の主張だ。

Huang氏は規制そのものに反対しているわけではないという。「法律や規制ならすでに山ほどある。それを適用すればいい」「法律にも規制にも反対していない。反対しているのは、今の本質から目をそらす議論だ」と述べた。OpenAIやAnthropicは、研究中心の小さな組織から短期間で大企業へと変わった。今は大企業なのだから、大企業としての責任を自覚して振る舞うべきだという。

Huang氏によると、NVIDIAが製品の性能向上に注ぐのは、力の２割。残りの8割の力は製品の安全面を検証にあてている、という。今のAI大手はそれとは逆に、性能向上に力の８割をあてているのが問題だと指摘している。