推論特化型クラウドが台頭＝AIは「賢さ」から「安さ」重視へ

生成AIの企業利用が実験から本番へ移るにつれ、競争の焦点が変わり始めた。問われているのは、どのモデルが最も賢いかだけではない。仕事に必要な性能のAIを、いかに安く大量に動かすか。米国企業の決済データには、その担い手となる「推論クラウド」の成長が表れ始めた。

法人カード・経費管理サービスの米Rampは、7万社を超える米国企業の決済データを基に、成長しているソフトウェア企業を毎月集計している。2026年8月のランキングで目を引いたのが、学習済みのAIモデルを動かす「推論」に特化した企業だ。Fireworks AIとBasetenが存在感を示し、独自半導体を使うSambaNovaも急成長企業のリストに入った。

生成AIの競争といえば、これまではモデルの性能に関心が集まってきた。しかし企業が問い合わせ処理や文書作成、コーディング支援などにAIを組み込み、大量に使い始めると、性能だけでは済まなくなる。応答を生成するたびに料金が発生するため、利用が増えるほど速度とコストが経営課題になるからだ。

すべての仕事に最も高性能なモデルが必要なわけでもない。難しい判断には高性能なクローズドモデルを使い、要約や分類など大量の定型処理には安価なオープンモデルを使う。企業にとっては、仕事に応じてモデルを使い分ける方が合理的だ。

ただ、オープンモデルは公開されているからといって、企業がすぐに使えるわけではない。GPUの確保や負荷に応じた処理能力の増減、障害対応など、運用には専門的な技術が要る。しかも一般的なクラウドのGPUを非効率に使えば、モデルが安くても実行コストがかさみ、その利点が薄れてしまう。

そこで台頭しているのが推論クラウドである。Fireworks AIやBasetenは、企業がオープンモデルを自前で管理しなくても、API経由で効率よく使えるようにする。いわば、AIモデルを実用サービスとして安く、速く、安定して動かすための専門業者だ。

投資会社Atreides Managementの最高投資責任者（CIO）、Gavin Baker氏は、Rampの集計結果をX（旧Twitter）で紹介し、Fireworks AIやBasetenなどの成長は、オープンモデルの普及度を測る指標になり得ると指摘した。両社は企業がオープンモデルを利用する際の主要な受け皿であるため、両社への支出が増えれば、その背後でオープンモデルの企業利用も広がっている可能性が高い、という見方だ。

推論クラウドはなぜ安いのか

推論には独特の難しさがある。利用者の入力を一度に読み込む処理と、回答を一語ずつ生成する処理では、コンピューターへの負荷が異なる。しかも質問の長さも回答の長さも毎回違う。単に高性能なGPUを並べるだけでは、待ち時間や空きメモリーが生じ、設備を使い切れない。

推論クラウドは、複数の要求を効率よくまとめて処理するほか、小さく高速なモデルに続きの言葉を先回りして予測させたり、モデル内部の計算を簡略化したりして、GPUの無駄を減らす。こうした工夫によって、回答の品質をほぼ保ちながら、応答速度と利用コストを改善している。

Rampは2026年5月、企業のAIトークン支出が2025年1月から13倍に増える一方、推論先が分散し始めたと分析している。企業は難しい処理には高性能なクローズドモデルを使い、定型的で大量の処理には安価なオープンモデルを使うなど、用途に応じてモデルを使い分け始めているようだ。

8月のランキングには、推論クラウド各社に加え、Grokを提供するSpaceXAIも基盤モデル部門の成長企業として初めて登場した。企業の支出はオープンモデルだけに移っているわけではなく、推論クラウドとクローズドな基盤モデルの双方に広がっている。

Rampのランキングからは、企業が用途やコストに応じてAIモデルと実行基盤を選ぶようになっている様子がうかがえる。推論クラウドは、オープンモデルを自前で運用せずに使うための選択肢として、利用を伸ばしているようだ。