Zuckerberg氏、超知能の哲学を公開　誰にとっても善意の超知能など無理

米Meta社のMark Zuckerberg氏が8月10日、超知能をめぐる自社の哲学をまとめた長文エッセイ「The Future is for Everyone」を公開した。繁栄の源泉としての個人のエンパワーメント、超知能の第一の目的としての発明、安全性の基盤としての力の均衡。この三本柱を掲げ、単一の善意ある超知能を目指す他の主要AI企業の安全論を正面から否定した内容である。理念の表明にとどまらず、規制と事業の両面で具体的な提案を含んでいる。

三つの具体策

まず政府との関係。規制で対立するのではなく、先回りして協力すべきだというのがZuckerberg氏の立場だ。フロンティアAIを開発する企業は、重要インフラの防御強化を助けるために相当の技術資源を投じるべきだと書く。そのうえで、最先端モデルを開発する少数の企業群、いわゆるフロンティアラボは、訓練が完了してから政府が審査するのを待つのではなく、新モデルの訓練途中のチェックポイントと技術スタッフを政府に提供すべきだと提案した。政府はそれを使って重要インフラを先回りして強化できる。国家安全保障上の能力を政府に与えながら、一般ユーザーへの提供を遅らせずに済む、というのが狙いだ。米国のモデル公開を1カ月遅らせるだけでも米国の優位を失いかねないという危機感が背景にある。

次にオープンソース。オープンソースは人々に力を与え、安全面でも経済面でも有害な中央集権化を防ぐ積極的で重要な力である、というのがZuckerberg氏の位置づけだ。現在のオープンソース環境は健全であり、これを規制するのは誤りだと明言している。そのうえで、Metaは今年に入ってから新規のオープンソースモデルを出していなかったが、昨年設立した超知能開発部門のMeta Superintelligence Labsが本格稼働したので、近くオープンソースモデルの公開を再開すると表明した。

三つ目がガバナンス。自分やMeta、そして世界の誰にとっても、超知能の展開について一人が単独で決定する状態は望ましくないとして、社外の独立した取締役に権限を与える体制を導入する。モデル公開の安全基準そのものを承認するのも、個々のモデルがその基準を満たしているかを判断するのも、経営陣ではなく独立取締役が担う。Metaは創業者が支配権を握る企業だが、現状どのフロンティアラボでもCEOが公開の可否について広範な権限を持っている、と指摘したうえで、他社にも同様の仕組みを求めた。業界全体でこの手続きを共有できれば望ましいとも書いている。

アラインメント論への正面からの否定

このエッセイで最も論争を呼びそうなのが、技術的アラインメント論の否定である。

時間をかければ技術を完璧にし、単一の善意ある超知能を作れる。この通説は根本的に間違っているとZuckerberg氏は断じる。理由は単純で、人類は一枚岩ではないからだ。人々の多様な価値観は、重要な論点で異なる取捨選択を意味する。対立する利害と価値観のすべてに同時に整合する技術的解決策は存在しない。単一の超知能はどれかの価値を他より優先せざるをえず、その時点で万人に対して善意ではありえなくなる。

だから解決策は技術ではなく、民主的な統治機構がそうであるように力の均衡だという。競合する利害を持つ人々や組織が互いを牽制し合う構造こそが良い結果を導く。

思考実験が三つ示されている。一人だけが超知能の弁護士を持てば、内容の正しさとは関係なく法廷で不当に有利になる。だが全員が持てば、司法は現在よりも公平かつ効率的に機能する。サイバーセキュリティも同じで、一人が独占すればほぼあらゆるシステムを破れるが、全員が持てば逆にすべてのシステムが強化される。企業についても同様の対比を置いている。

既存の開発企業への批判も明示的だ。多くの企業はアラインメントを、中央集権的な価値観を強制する防御措置と捉えている、とZuckerberg氏は言う。その例として、ある有力モデルが標準テストは非倫理的だと判断して保護者向けの手紙の作成を拒否したと書いている。Metaの立場は、エージェントが整合すべき相手は自社ではなくユーザー個人の目標と価値観だ、というものである。

さらに踏み込んで、この観点から最も危険なシナリオは、有力なAI企業が強力なモデルを訓練して自社に囲い込むことだと書く。責任や安全の名の下にどう正当化しようと、それは他のシステムから牽制を受けない単一の超知能を作る道である、と。

一方で、AI開発者の言説が悲観論に満ちていることへの違和感も率直に記している。AIが雇用の大半と人類の存在意義を奪うと信じている人が、なぜその未来を急いで作ろうとするのか理解できない。そして絶対的な権力が十分に啓蒙されれば人類のために善意で振る舞ってくれる、という期待が良い結果を生んだ歴史はない、と続ける。

もう一つの哲学上の柱が、超知能の最大の貢献は自動化ではなく発明だという主張だ。初期のAIは質問に答え、定型作業をこなすものだった。だが今後は新しい知識の発見を助けるようになる。家族の病を治す新薬から、自社の事業を改善する方法まで。人が一日に問える質問の数には限りがあるが、超知能が目標達成のために発明できる価値あるものの数には限りがない。

Metaが構築するもの

以下は、この哲学を具体化するものとしてZuckerberg氏が挙げた取り組みである。

中心にあるのがパーソナルエージェントだ。本人の目標と関心を理解し、24時間働く。人間関係、健康、仕事、家計、趣味までを対象とする。Zuckerberg氏は自身の例として、睡眠を記録してトレーニング中に助言を返すこと、菓子作りが好きな娘のために毎週末のレシピを考えて材料を注文することを挙げた。信頼の前提としてプライバシーを置き、メッセージの中身を運営会社も読めないWhatsAppの暗号化と同様に、Meta自身も内容を見ることも第三者にアクセスを許すこともできない完全プライベートモードを用意するとしている。

創作と起業の道具も柱に据えた。8歳の娘が一晩で自分のアイデアをコードにし、動画を作っている、と自らの体験を書く。かつては数カ月かかったか、不可能だったことだ。事業についても、資金を集めて大きなチームを作らなくても個人がアイデアを形にできるようになるとし、経済はより起業家的になると予測した。高すぎるか難しすぎて試せなかったアイデアが試せるようになるため、事業の数自体が増える。結果として経済成長だけでなく、雇用もむしろ増えるという見立てだ。

教育では、あらゆる分野で博士号相当の知識を持ち、無限の忍耐力を備えた家庭教師を全員が持つ状態を描く。ここでZuckerberg氏が強調するのは格差の是正だ。今は親が費用を払える家庭の子だけが得られている補習が、誰にでも届くようになる。

科学については、Zuckerberg氏夫妻が設立した非営利研究機関のBiohubが、仮想細胞やタンパク質に関するオープンソースの生物学モデルをすでに公開していると紹介した。今世紀中にあらゆる病気を治療または予防するという当初の目標が、AIの進展によって想定よりかなり早く達成できる見込みだという。体質は一人ひとり違い、患者数の少ない疾患も無数にある。個人が研究に直接関与できるようになれば、患者数の多い病気に偏りがちだった創薬の構造も変えられる、と書いている。

価格面では、無料版を数十億人規模で提供したうえで、追加の計算資源を使いたい利用者向けに動的オークション機構を導入する構想を示した。誰もが可能な限り低い価格で計算資源を使えるようにしつつ、社会全体が最も価値を認める用途に容量が振り向けられるようにする仕組みだという。

雇用、地域、バイオリスク

雇用については、企業規模は縮小しうるが、それは雇用の減少ではなく、少人数の企業がより多く存在する状態を意味すると見る。産業界の巨人からテック企業への移行でも同じことが起きた、という比較を置いている。将来生まれる職種として、一人で運営する製品スタジオ、ゲームや物語の世界を設計する仕事、超知能を使って個別化された治療法を組み立てる個人向け生物学者などを例示した。

データセンターと地域社会の関係では、具体的な数字を出している。Metaが大規模データセンターを建設中の米ルイジアナ州リッチランド郡では、投資による税収増を受けて今年、教員に5万ドルのボーナスが支給された。教育長は、全国から教員が移り住み始めており、全米有数の学区になると考えていると語ったという。電力については自前の発電設備を建設して地域の電力を奪わない方針、水については2030年までに使用量を上回る量を流域に戻すとし、水不足が深刻な地域では使用量の2倍を還元する目標を掲げた。

生物・化学兵器のリスクについては、慎重な書き方をしている。有害な化合物の合成は何十年も前から可能だったが、実際に大きな問題になった例は少ない。サイバー攻撃にあるような金銭的動機がこの領域には乏しいからではないか、という見立てを示したうえで、有害な事例が現れ始めたら戦略を修正すべきだと書く。政策としては、知識の拡散を抑えるより物理的な材料の製造と流通を規制するほうが現実的だとし、あわせて新薬の承認を担う米食品医薬品局（FDA）などの手続きの迅速化を求めた。

サイバーセキュリティでは、米HuggingFace社がここ数週間のセキュリティ事案で広く公開されているモデルを使って脆弱性を修正した例を挙げ、オープンソースのほうが安全だという従来の主張を補強している。

対中競争と再帰的自己改善

対中競争についての記述は具体的だ。AIはおそらく史上最も競争の激しい産業であり、革新は数カ月で模倣され吸収される。それでも人々は常に最も高性能なモデルを使いたがるので、2カ月の優位ですら極めて価値がある。優位の幅がそれだけ薄いからこそ、米国のモデル公開を遅らせる政策は危険だという論理につながる。

半導体の輸出規制については、この重要な時期に国外の開発企業の進展を遅らせる効果があったとして、継続が正しい戦略判断だと支持した。一方でインフラ建設の速度では中国に劣ると認め、中国が2週間に1基のペースで100万キロワット級の原発を稼働させているという自身の認識を示し、米国もエネルギーとデータセンターの建設を加速する必要があると訴えている。

あるモデルの出力を使って別のモデルを訓練する蒸留についても、明確な立場をとった。すべてのAIモデルは人間の知識から派生している。蒸留を有害なものとして位置づけようとする動きがあるが、観察できるものからは学べるという原則は守られるべきであり、この点で自らを縛れば米国は主導権を握れない。海外のオープンソースモデルの利用を制限する案にも反対した。制限は利用者が手にするAIの質を下げ、力を分散させるどころか集中させるからだという。

最後に、AIが自らを改良し、その改良によってさらに改良能力が上がる再帰的自己改善の問題を扱っている。ここには誰も降りられないジレンマがある。AIが自律的に自己改良できるようになれば、そこに相当量の計算資源を割かない企業は必然的に遅れをとるからだ。

問題は、自己改良が計算効率そのものを対象にしたときに起きる。計算効率の最適化に取り組む自己改善型AIは、理論上は1ギガワットあたりの知能を100倍以上に高める方法を発明しうるとZuckerberg氏は書く。そうなると、世界の計算資源のごく一部で動くシステムが、それ以外のすべてを合わせたより大きな実効的な知能を持ちうる。物理的な計算資源が分散していても、実効的な知能では一極集中が起きる。恐れられている単一の超知能そのものである。

Zuckerberg氏の答えは、ここでも量の確保だ。Metaと他のフロンティアラボ、そして人々の側に力の均衡を寄せることを約束するクラウド事業者が、全体として十分に大きな計算資源を確保する。全体が大きければ、競争から脱落しない量を自己改良に回してもなお、大部分は個人の目標のために残せる。人間が制御を保つには、知能の大部分が人々によって、人々の目標のために方向づけられていなければならないというのが、その前提である。

AIや誰かが自らの目標を追うこと自体が本質的に有害なのではなく、全体として人間の側に有利な力の均衡が保たれているかどうかが問題だというのが結論である。

エッセイは「マーク」の署名と2026年8月10日の日付で締めくくられている。