Anthropic、オープンモデル禁止論を否定 中国への半導体規制など3対策を要求
米AI開発大手Anthropicの最高経営責任者（CEO）Dario Amodei氏は7月27日、AIモデルの学習済みパラメーター（重み）を公開する「オープンウェイトモデル」の一律禁止に反対する声明を発表した。
中国のオープンウェイトモデルを米企業が利用することを規制する案が米政府内で検討されていると報じられる中、米NVIDIAや米Microsoft、米Metaなどは7月24日、拙速な規制を避けるよう求める共同書簡を公表した。Anthropicは書簡に署名しておらず、同社がオープンモデルの規制を求めているとの批判も出ていた。(AI新聞)
こうした批判に対し声明の中で「Anthropicはオープンウェイトモデルの禁止を主張したことは一度もない」と明言。一方で、中国への高性能半導体の輸出規制、大規模なモデル蒸留の取り締まり、高性能AIモデルに対する安全性試験の義務化を求めた。(Anthropic)
議論の経緯については、AI新聞の「米国AI業界で『オープンモデルを活用すべし』の大合唱」と、「NVIDIAなど25社・団体がオープンウェイトAIへの拙速な規制回避を要請」で詳しく報じている。
「危険な能力がなければ公共財」
Amodei氏は声明で、危険な能力を持たないオープンウェイトモデルを「公共財」と評価した。利用者はモデルを動かすための計算費用だけで利用でき、企業、開発者、研究者に価値をもたらすとした。(Anthropic)
同氏が安全保障上の主な懸念として挙げたのは、権威主義国家が米国を上回るAIを開発し、軍事的優位や国民の監視・抑圧に使うことだ。ただし、その危険性は、モデルがオープンウェイトであるかどうかとは関係がないと指摘。最も危険なのは、秘密裏に開発され、軍や情報機関だけに提供されるモデルかもしれないとした。(Anthropic)
一方、サイバー攻撃や生物兵器の開発に悪用できるほど高性能なモデルでは、オープンウェイト化によって危険が高まる可能性があるとの従来の見方も維持した。モデルの重みが一度公開されれば、安全対策を外したり、開発元の監視が及ばない環境で動かしたりでき、回収することもできないためだ。(Anthropic)
中国への半導体輸出規制など3対策
Anthropicが必要だとした対策は三つある。
第一は、高性能半導体と半導体製造装置を中国に販売せず、密輸や規制逃れを取り締まることだ。Amodei氏は、中国には高性能半導体の国内生産能力が十分になく、米国製半導体へのアクセスを制限することが、中国による最先端AI開発を抑える最も直接的な方法だと主張した。(Anthropic)
第二は「産業規模のモデル蒸留」の取り締まりだ。モデル蒸留とは、あるAIモデルの大量の出力を使い、別のモデルの性能を高める手法を指す。ゼロからモデルを訓練するより必要な計算量が少なく、中国企業が半導体不足の影響を一部補えるとした。(Anthropic)
Amodei氏は、蒸留によって中国のAI開発が米国の最先端から数カ月遅れの水準まで近づく可能性があると主張している。ただし、モデル蒸留自体は一般的な開発手法でもあり、問題視しているのは、不正アカウントなどを使って他社モデルの能力を大量に引き出す行為だという。(Anthropic)
第三は、オープンウェイトモデルかクローズドモデルかを問わず、十分に高性能なモデルに公開前の安全性試験を義務付けることだ。サイバー攻撃、生物兵器、AIが人間の意図から外れて行動する危険性などを事前に評価する。モデルの公開方式ではなく、実際の能力と危険性によって規制対象を決める考えだ。(Anthropic)
共同書簡とは安全性で温度差
Amodei氏は、NVIDIAなどの共同書簡が掲げた主張の多くには賛同した。オープンウェイトモデルがAIへのアクセスを広げ、用途によっては競争を促し、利用企業がモデルを自ら管理できるようにするとの考えだ。モデル蒸留についても、オープンモデル全体を禁止するのではなく、法制度や商取引上の枠組みを通じて対象を絞って対処すべきだとした。(Anthropic)
意見が分かれたのは、安全性をめぐる評価だ。共同書簡は、モデルの重みを公開すれば多くの研究者が弱点を調べられるため、防御策の開発にも役立つと主張している。これに対しAmodei氏は、モデルを広く利用できるようにしても防御側が有利になるとは限らず、むしろ攻撃側に有利に働く可能性も同じくらいあると反論した。
特に生物分野では、AIが入手可能な材料を使って大規模な感染症を引き起こすウイルスを兵器化できるようになる一方、防御策を整えるには数年かかる恐れがあるとした。モデルの危険性は、オープンウェイトかクローズドかという違いだけで判断せず、厳格な試験で確かめるべきだとしている。(Anthropic)
声明の投稿には、オープンモデルの開発者や利用者から批判的な反応もみられた。米AI開発企業Nous Research共同創業者のTeknium氏は、禁止に反対すると言いながら、実際にはそれ以上に厳しい規制を求めていると皮肉った。X上ではほかにも、何を「危険な能力」とみなすのかが明確でなく、Anthropicなどの大手企業が高性能なオープンモデルの公開を事実上制限できるようになるとの批判が出た。
今回の声明でAnthropicは、オープンウェイトであることだけを理由にモデルを一律規制する考えを否定した。その一方で、オープンウェイトかクローズドかを問わず、危険な能力を持つ高性能モデルには事前の安全性試験を義務付けるよう求めた。規制の基準をモデルの公開形態ではなく、実際の能力と危険性に置く立場を示した形だ。
