18カ月以内に生物・核兵器級の脅威も GoogleのHassabis氏、AI審査機関設立を提案
米Google DeepMindのCEO、Demis Hassabis氏が7月14日、「A Framework for Frontier AI and the Dawning of a New Age（フロンティアAIの枠組みと新時代の幕開け）」と題するマニフェストを公開した。AGI（汎用人工知能）の到来は「おそらくあと数年」だとした上で、最先端AIモデルをリリース前に審査する米国主導の基準機関の設立を提唱する内容だ。同日の米Axiosのインタビューに語ったところによると、現在のAIによるサイバーリスクは「警告射撃」にすぎず、18カ月以内には、はるかに深刻な生物・核兵器の脅威につながる能力が、どの政府の管理も及ばないオープンソースモデルに宿りうると警告したという。
反応は速かった。公開から約1時間半で米Microsoft AI CEOのMustafa Suleyman氏が「今こそ私たち全員が行動する時だ」と全面支持を表明し、約5時間後には米OpenAI CEOのSam Altman氏も「思慮深い提案だ」と同調した。主要ラボのトップが規制の必要性で公に足並みを揃えるのは異例のことだ。投稿は日本時間15日朝までに閲覧510万回を超え、AGI前夜のガバナンス論争の新たな起点となりつつある。
産業革命の10倍の変化が10倍早く来る
マニフェストの冒頭でHassabis氏は、いまが人類史の転換点だと宣言する。数十年後にこの時代を振り返れば、「我々はシンギュラリティの麓に立っていたと気づくだろう。人類にとっての新時代の幕開けにほかならない」という。
氏によれば、AGIはインターネットやモバイルのような通常の技術的ブレークスルーとは比較にならず、電気や火の発見に近い。その表現が印象的だ。「我々は本質的に、砂に考えさせる方法を見つけたのだ。奇跡的なことだ」。半導体の原料であるケイ素、つまり砂が思考する時代が来た、というわけだ。その影響の大きさは「産業革命のおそらく10倍の規模が、10倍の速度で」訪れるとし、創薬の加速からクリーンエネルギー、新素材開発まで、資源が人類の進歩の制約要因でなくなるアバンダンス（豊穣）の新時代さえ視野に入るという。
とはいえ、ノーベル化学賞受賞者であり、AGI研究に人生を捧げてきた本人の見立ては、楽観一色ではない。むしろマニフェストの核心は危機感の方にある。現在、AI業界は「極めて熾烈で多層的な商業・地政学レース」の渦中にあり、競争が急速な進歩を生む一方で、「AIの能力は、それを作っている我々自身の理解さえ追いつかない速度で伸びている」。そして氏はこう認める。「ここから何が起きるのか、世界の誰にも確かなことはわからない。専門家の間でさえ意見が割れている」。
これほどの不確実性の中で、これほど大きなものが懸かっているとき、取るべき戦略は「慎重な楽観主義」だと氏は言う。イノベーションを促進しつつ、責任とセキュリティにインセンティブを与える公共政策。その具体案が、次に見る基準機関の構想だ。
金融業界型の官民パートナーシップ——リリース30日前にモデル提出
では、Hassabis氏が提案する基準機関とはどんなものか。モデルとするのは、米金融業界の自主規制機関FINRA（金融取引業規制機構）だ。FINRAは証券会社が資金を出し合い、SEC（米証券取引委員会）の監督下でウォール街を取り締まる民間組織である。これと同様に、連邦政府の監督を受ける官民パートナーシップ、あるいは自主規制組織として新機関を設立するというのが氏の構想だ。資金は主に業界が拠出し、世界最高水準の技術人材と大規模テストに必要な計算資源を確保する。理事会には独立した一流の技術専門家やオープンソース陣営の代表を含める。Axiosによれば、理事会は過半数を独立メンバーとし、Turing賞受賞者クラスの専門家を据える想定だという。
仕組みの中核は「認定制度」だ。基準機関が定めるベンチマークで一定の閾値を超えたモデルを「Frontier-class（フロンティア級）」、それを開発する組織を「Frontier Labs（フロンティアラボ）」と認定する。フロンティアラボは当初、リリースの最大30日前までに自主的にモデルを基準機関に提出し、審査を受ける。評価項目はサイバーセキュリティや生物学的脅威などの高リスク領域に加え、エージェント型AIが安全ガードレールを回避しようとする試みや、欺瞞の兆候の検査も含まれる。
注目すべきは、自主的な枠組みから義務化への道筋があらかじめ組み込まれている点だ。原文の「formalisation（公式化）」とは、任意の審査を法的な要件に格上げすることを指す。Hassabis氏は、審査プロトコルの実効性が確認されればこの移行は「速やかに」進みうるとし、その段階ではフロンティアモデルは審査を通過しなければ米国市場に展開できなくなる。ベンチマークは当初四半期ごとに更新し、陳腐化・飽和した指標は廃止・交換。最終的には基準機関がラボから独立した非公開テストを自前で開発し、「テスト対策」による見かけの好成績を防ぐ。事態が深刻化した場合には、フロンティアラボ間で開発の減速を調整することまで視野に入れた設計だ。
適用範囲も広い。基準は出身国を問わず、オープンかクローズドかも問わず、フロンティア級のモデルすべてに適用される。一方、閾値に達しないスタートアップや学術機関のモデルは対象外とし、イノベーションへの萎縮効果を避ける。
興味深いのは、Hassabis氏がこの認定を「規制の重荷」ではなく「勲章」として設計していることだ。Axiosのインタビューでは、テストの対象になること自体が一流の証になるとして、「それはかなり良い、威信という種類の資産になると思う」と語っている。実現のタイムラインについても野心的で、「数カ月」で、理想的には年内に新機関を稼働させたい考えだ。
引き金はFable・Mythos凍結事件——「場当たり規制」への業界の回答
なぜいま、この提案なのか。直接の引き金となった事件をHassabis氏自身が明かしている。先月、トランプ政権が米AnthropicのMythos・Fableモデルに対して行った突然のアクセス制限措置だ。氏はAxiosに対し、あれは「ちょっとしたウェイクアップコール（警鐘）だった」と語った。
Axiosによれば、Anthropicは輸出管理命令によって最強モデルへのアクセスを一夜にして凍結され、確立されたルールもプロトコルも前例も何もないまま、解除まで2週間半の交渉を強いられた。同じ轍を踏むまいとしたOpenAIは、GPT-5.6をローンチ時に政府審査済みパートナー限定で公開することに同意。商務省との交渉とテストを経て、一般公開にこぎつけたのは先週のことだ。
つまり米政府は既に、事実上のモデル審査に踏み込んでいる。ただしそこには基準も手続きもなく、すべてがその場しのぎの個別交渉だ。Hassabis氏の提案は、この「場当たり的な政府介入」を、透明で予見可能な制度に置き換えようという業界側からの回答である。氏がAxiosに語った言葉を借りれば、必要なのはもっと「体系的な」アプローチ——業界が資金を出し、世界最高の技術専門家を擁し、米政府に対して説明責任を負う仕組みだ。
しかも氏は、思いつきで提案をぶつけたわけではない。Axiosの報道によれば、数カ月をかけてトランプ政権、他のラボ首脳、欧州当局者に水面下でブリーフィングを重ねた上での公開だった。Mythos事件まで自由放任のAI政策を取ってきたトランプ政権との対話についても、「私が聞いている感触は非常にポジティブだ」と手応えを口にし、他の主要ラボのリーダーたちも大枠では同意しているとして「これが業界の進むべき方向だ」と述べている。
その言葉の裏付けは、公開当日のX上で目に見える形で現れることになる。
公開5時間でGoogle・Microsoft・OpenAIが同調
マニフェスト公開後の反応は、根回しの周到さを物語る速さだった。以下、時刻は日本時間である。
公開からわずか13分後の7月14日午後6時43分、米ベンチャーキャピタルa16zのパートナーで、元ホワイトハウスAI政策担当のSriram Krishnan氏が「これは非常に思慮深い提案だ」と反応した。a16zはこれまでAI規制反対の急先鋒だっただけに、この陣営からの好意的な第一声は目を引く。
約1時間半後の午後8時24分には、米Microsoft AI CEOで、DeepMind共同創業者でもあるMustafa Suleyman氏が続いた。マニフェストを締めくくる一節を引用した上での全面支持だ。「Hassabis氏のこの重要な提案を全面的に支持する。今こそ私たち全員が行動する時だ」。
そして午後11時48分、米OpenAI CEOのSam Altman氏が「これはDemisによる思慮深い提案だ」と投稿した。Hassabis氏はすぐに「Thanks @sama !」と返礼している。Altman氏は今年4月、米AnthropicのMythosの宣伝手法を「恐怖を煽るマーケティング」と批判した人物だ。AIの危険性を強調する語り口には人一倍懐疑的だったはずのAltman氏も、この提案には乗ったことになる。
かくして公開から約5時間で、Google、Microsoft、OpenAIという主要3陣営のトップが公に足並みを揃えた。Hassabis氏がAxiosに語った「他のラボ首脳も大枠で同意している」という言葉が、その日のうちにX上で実証された格好だ。マニフェストの投稿は、一夜明けた日本時間15日朝の時点で閲覧510万回、いいね1万3000件を超えている。
もっとも、全員が沈黙を破ったわけではない。日本時間15日朝の時点で、xAIのElon Musk氏、米Meta社チーフAIサイエンティストのYann LeCun氏からの反応は確認されていない。そして最も注目すべき沈黙は、Anthropic CEOのDario Amodei氏だ。ひと月前に自ら政府主導のAI規制を提唱したばかりの人物が、業界主導のこの提案にまだ口を開いていない。
懸念の声もある。多いのは、AI大手が自分たちに都合のいいようにルールを作るのではないか、という批判だ。この構想では、AI大手が資金を出し、AI大手同士が中心となって協議しながら審査基準を作る。この形だと、AI大手が後発企業にとって参入障壁となる審査基準を設けることも可能になる、という指摘である。米国主導の基準が中国製モデルにどこまで実効性を持つのか、という疑問の声も上がっている。
金融型か航空型か——1カ月前のAmodei氏提案との対比
Amodei氏の沈黙が注目に値するのは、氏自身がわずか1カ月前、独自の規制案を世に問うたばかりだからだ。6月10日公開のエッセイ「Policy on the AI Exponential」で氏は、「フロンティアAIモデルは、航空機と同様に、技術的なテストと監査を義務づけられるべきだ」と主張した。モデルとするのはFAA（米連邦航空局）。つまり航空業界型だ。
両者の提案は、リリース前の第三者テストや高リスク領域の評価など、方向性では驚くほど重なる。違うのは「誰が権限を握るか」だ。Amodei氏案は最初から義務であり、許容できないリスクが確認されたモデルの展開を政府が阻止する法的権限を持つ。一方のHassabis氏案は、業界が資金を出す自主規制から始め、実効性が確認された段階で義務化に移行する。権限の重心は業界側に置かれる。
AI規制をめぐる議論は、「規制すべきか否か」の段階を過ぎ、主要ラボのトップが競って規制の設計図を描く段階に入った。審査の仕組みは、モデルの市場投入を左右する新たな関所となる。その設計を業界が主導するのか、政府が主導するのか——。Amodei氏がHassabis氏案にどう応じるかが、次の焦点になる。
未来はまだ書かれていない
Hassabis氏はマニフェストをこう締めくくっている。「未来はまだ書かれていない。AGIが到来するまでの貴重な猶予期間を使って、人類全体の利益のためにこの技術を形作らなければならない」。
ただし本人の想定する猶予期間は長くない。新機関の稼働は理想的には年内。マニフェストには、この米国発の枠組みがフロンティアAIの国際標準づくりの強力な出発点になるという展望も明記されている。基準は出身国もオープン・クローズドも問わず適用される設計だ。実現すれば、日本企業が使う米国製モデルにも、日本で導入が広がる中国製オープンモデルにも、米国の基準機関が定めたモノサシが事実上の世界標準として及ぶことになる。
金融でも航空でも、国際標準の設計を主導した国がルールの果実を手にしてきた。AIでも同様のことになるのだろうか。