AIモデルは性能の差より速度の差に？他今週のトピック

公開日

2024.02.14

更新日

2026.06.17

【編注：DALL-Eが画像を自動生成】

◎BardがGeminiに

ブランドが変更。Google Bardにアクセスしたら、ページタイトルがGeminiになっていた。英語の発音は「ジェムナイ」だけど日本では「ジェミニ」になりそう。
Google Docs内などのAIもDuetからGeminiのブランドに変更になった。
性能はGPTー4並み。といってもGPT-4のほうが得意なことがあったり、Geminiのほうが得意なことがあったりするみたい。X（旧Twitter）上では、コンビニに写真をアップすればどこのコンビニか、住所や地図で教えてくれたという例が話題になっていた。
月額20ドルだけど、既にGoogleのデータストレージに使用料払っている人は、データストレージ料を含めての20ドルになる。2ヶ月は無料。
OpenAI独走から、Googleとの2強時代に入った。

◎AIモデルは性能の差より速度の差

GoogleのGeminiを使い始めたんだけど、論理的思考ではGPT-4よりも優れているかも。「現在市販されている5ナンバーの自動車のリストを作って」というプロンプトに対してGPT-4は「自動車メーカー各社のサイトにアクセスしてみてください」的な答えだったけど、Geminiは大手自動車メーカーのサイトにアクセスして必要なデータを集めてきた。

オープンソースのAIモデルも非常に高性能になってきているみたい。Llma270B for codeはGPT-4並みの性能で無料。

OpenAI独走時代はもうそろそろ終わりに近づいているのかも。
性能の差がそれほどないのなら重要なのは速度の差になる。特に社内の生産性を上げるフェーズから、顧客向けにチャットボット、音声ボットを提供しようという動きになる中で、レイテンシーは大きな課題になっている。500ミリ秒の時差でもユーザーは我慢してくれないという。

そこでレスポンスの速さを売りにするTPS(tokens per second)プロバイダーが注目を集め始めた。独自開発の半導体やソフトウエアでレスポンスタイムを早くする事業者だ。

大手クラウドはもちろんのこと、専業企業も登場している。groq社は、元GoogleのTPUエンジニアが立ち上げたスタートアップで、独自チップを開発したことで150ミリ秒を実現したという。そのほかにもモデルの学習ではcerebus社、NVIDA GPUのラッパーを開発したtogether.aiなどがある。

◎AIモデルの領域でオープンソースが勝利するかも

「独自にAIモデルを開発している企業の幹部が『自社開発技術の進化にはついていけるけど、オープンソースの進化にはまったくついていけない』と語っていた。ほとんどのイノベーションはオープンソースで起こっている。例えば今週リリースされたMetaのLlama270B for codeは、すべてのベンチマークでGPT-4と同等なのに無料だ。性能にお金を払う時代は終わった。これからはスピードにお金を払う時代だ」（注目の半導体ベンチャーgroqのJonathan Ross氏）21:30
https://x.com/chamath/status/1754641005851328553

◎「NvidiaとAI大手は衝突する運命」（groqのCEO）

「Nvidiaは、Amazonや、Google、Microsoftのテック大手と衝突する運命だし、もう既にその方向に進んでいる。Nvidiaはクラウドを構築し始めた。表向きには『われわれのクラウドじゃないよ』って言ってるけど、彼らのクラウドだ。Nvidiaはこれまでも周辺ビジネスをどんどん取り込んできた。次の合理的な展開としては、データセンター構築だし、やがて彼ら独自の大規模言語モデルも作ってくるだろう」(30:00)
「Nvidiaとテック大手の戦いでどちらが勝つかと言えば、僕はNvidiaに賭ける。なぜならテック大手はこれまでも独自半導体を自社開発しようとしてきたが、うまく行っていないから」(36:00)https://x.com/chamath/status/1754641005851328553

◎半導体工場建設に7000億ドル

OpenAIのSam Altman氏が半導体工場建設のためアラブ主張国連邦の投資家やソフトバンクから総額7000億ドルを調達しようとしているらしい。
OpenAI自体の資金調達って11億ドルだったので、その600倍以上の金額。そこまでの金額が必要なのだろうか。昨年の世界の半導体製造装置の総売上は1000億ドルだった。https://www.wsj.com/tech/ai/sam-altman-seeks-trillions-of-dollars-to-reshape-business-of-chips-and-ai-89ab3db0