トランプ政権とAI大手6社が安全協定

米トランプ政権とAI大手6社が、最先端AIの安全性を確認するため、外部機関による評価を受け入れることで合意した。

米OpenAI、Google、Meta、Anthropic、半導体大手NVIDIA、Elon Musk氏率いるSpaceXAIの6社が9月29日、ホワイトハウスで「White House Accord on Super Intelligence（ホワイトハウス超知能協定）」に署名した。正式名称には「最先端領域における責任に関する共同コミットメント」という副題が付けられている。

協定の特徴は、AI企業自身による安全確認だけでなく、社外の独立した評価を組み込んだことだ。

協定では、安全対策を4段階で確認する。まず企業が、モデルの能力や意図した動作からの逸脱を監視し、AIが想定外にコンピューターシステムへ侵入するなどの危険な行動を防ぐ仕組みを整える。

次に社内の専門チームが、こうした安全対策が実際に機能しているかを検証する。さらに独立した外部機関による評価を受け、最後に取締役会レベルの独立委員会が、社内外の評価結果と問題への対応状況を監督する。

これまでAI企業の安全性評価は、自社の安全チームによる検証に大きく依存してきた。今回の協定は、最先端モデルについて第三者の目を入れることを、米主要AI企業の共通原則として明示した点に意味がある。

ただし、協定に法的拘束力はない。

トランプ大統領は協定について「法的」というより「道義的に拘束するもの」と説明し、AI企業の間で「非常に大きな自主規制」が進んでいるとの認識を示した。Mike Johnson下院議長も、企業側の約束は自主的なものだと明言している。違反した場合の罰則なども設けられていない。

つまり米政府がAI企業を直接監督する制度を作ったわけではない。政府が最低限の原則を示し、具体的な安全管理や外部評価は企業側に委ねる仕組みだ。

この点は、厳しい政府規制よりも民間企業による自主規制を重視してきたトランプ政権のAI政策とも一致する。

NVIDIAのCEO、Jensen Huang氏は会合後、「イノベーション、テクノロジー、安全性の間に対立はない」と述べ、AIの能力を高める技術と同時に、安全性を高める技術も進歩させる必要があるとの考えを示した。

一方、米MetaのCEO、Mark Zuckerberg氏は「これが私たちがする唯一のことという意味ではない。これは始まりだ」と述べ、今後さらに安全対策を拡大する可能性を示した。

AnthropicのCEO、Dario Amodei氏は会合後、「AI競争に勝ち、同時に安全に勝つためには、われわれ全員が協力する必要がある」と述べている。