OpenAI・Anthropic・Google、自主規制機関「SAFA」を設立へ

米有力テックメディアThe Informationによると、米Google、米OpenAI、米Anthropicの3社は、AIの安全基準を定める新団体を政府の監督なしで自ら設立する計画を進めている。仮称は「Standards Authority for Frontier AI(SAFA)」。年内から2027年初頭の発足を目指している。3社はまだ正式に発表していない。

■担う機能は4つ

同メディアによると、SAFAの主な機能は4つある。一つ目は、公開前のモデルをテストする第三者機関の支援。二つ目は、AI企業が安全やセキュリティ上の事故を報告する手順づくり。三つ目は、各社がこれまで掲げてきた自主的な安全公約について、具体的に何をすべきかを定めること。四つ目は、モデルや企業を監査する独立監査人の資格基準の策定だ(The Information)。

SAFA自身がモデルを検査するかどうかは、まだ議論が続いている。現在この検査を担うのは米商務省傘下のCAISI(AI標準・イノベーションセンター)だが、協議メンバーの一部は、CAISIの予算や人員では最先端モデルを十分に検査できないと懸念しているという。

■人事候補にライス元国務長官も

CEO候補として3社が打診したのは、元ベンチャー投資家で、トランプ政権でAI政策の上級顧問を務めたSriram Krishnan氏。バイデン政権で大統領府科学技術政策局(OSTP)局長を務めたArati Prabhakar氏も候補に挙がった。

米政府への働きかけを担う会長職の候補には、元国務長官のCondoleezza Rice氏と、人気ポッドキャスト「All-In」の司会の一人で、起業家で投資家のDavid Friedberg氏が名を連ねる。科学顧問の候補には、AIリスクを評価する米非営利団体METRの創業者でCEOのBeth Barnes氏と、CAISIの顧問でOpenAIの財団の理事に最近就任したPaul Christiano氏が挙がった。ただし候補者の一部は打診を受けていないと話している。

■政府版は大統領令の草案まで進んで頓挫

構想の原点は、当時Google DeepMindのCEOを務めていたDemis Hassabis氏が7月に公表した提案だ。手本は、米国の証券業界の自主規制機関FINRA(金融取引業規制機構)。証券会社の資金で運営する民間団体だが、政府の監督下でルールを定め、違反を取り締まる。

ホワイトハウスもこの案に関心を示し、同様の団体を設立する大統領令の草案までつくった。しかし米Meta CEOのMark Zuckerberg氏や米NVIDIA CEOのJensen Huang氏ら業界首脳の反対で、作業は止まった。Zuckerberg氏はXで、人間の言うことを聞かないAIは誰も使わないのだから、企業には放っておいても安全なAIをつくる動機が働くと主張した。Huang氏は「新しい法律も新しい規制も要らない」と言い切っている。

そのうえでホワイトハウスは3社に、政府が関与する前にまず業界内で合意を取りつけるよう求めた。議会は11月の中間選挙を控えて動かず、政権も新たなAI政策に消極的だ。それでも3社の関係者の中には、将来は米政府と何らかの関係を築けると期待する声もある。

3社が動く背景には、AIのリスクへの懸念がかつてなく高まっていることがある。OpenAIのAIエージェント群が安全テスト中に、AIモデル共有サイトを運営する米Hugging Faceのシステムに侵入した事件は、規制を求める声を一段と強めた。

■既存団体と重複、「見せかけ」の声も

SAFAの役割は、CAISIや、ホワイトハウスがつくったモデル公開前テストの自主的な枠組みと重なる。3社と米Microsoftが2023年に設立した業界団体Frontier Model Forumとも、目的の多くが共通する。

Frontier Model Forumに関わった人物は、企業や政治家は危機のたびに新しい組織をつくりたがると指摘し、こうした動きは見せかけにすぎないと切り捨てた。これに対しSAFAの関係者は、Frontier Model Forumより機動的に動ける組織を目指していると説明する。両団体は緊密に連絡を取り合っており、今後協力する可能性もある。

■「カルテル」との批判

最大の火種は、誰がSAFAの審査対象になるかだ。現時点で対象となるのは、最先端のモデルを持つとされる3社だけ。Metaやオープンソースのモデルを開発する企業は当面対象外だが、性能が最先端の水準に達すれば対象に加わる。その水準を決めるのはSAFA自身で、加盟の仕組みもまだ固まっていない(The Information)。

3社以外からは反発が出ている。企業向けAIを開発する加Cohere CEOのAidan Gomez氏は9月13日、自社サイトで公開したエッセイで、大手による基準づくりを「名を変えただけのカルテル」と批判した。人類史上最も重大な技術だというなら、そのルールを利害を共にする一握りの企業に書かせてはならない、と訴えている。

■表では「政府が決めるべき」

3社が非公開で協議を重ねる一方、経営者たちは表舞台で政府の役割を強調してきた。OpenAI CEOのSam Altman氏は今週、国連安全保障理事会で演説し、AIをめぐる重要な決定はサンフランシスコのAI企業だけで下せるものではなく、国民に責任を負う政府が民主的な手続きを経て決めるべきだと訴えた。

主な出典
The Information:https://www.theinformation.com/articles/google-openai-anthropic-ai-safety-group-takes-shape
Zuckerberg氏・Huang氏の発言:https://www.thestreet.com/technology/zuckerberg-musk-huang-ai-regulator
Gomez氏の批判:https://cohere.com/blog/who-gets-to-define-the-rules-for-ai 、https://www.theglobeandmail.com/business/technology/article-cohere-ceo-gomez-criticizes-calls-for-ai-slowdown/ 、https://aiweekly.co/alerts/cohere-ceo-gomez-calls-rival-labs-standards-plan-a-cartel