AIインフラのコストが見えないまま、企業は高速性を求めてAIコンピューティングを購入
Infrastructure and compute: Enterprises are buying AI compute for speed while flying blind on what it costs
170社の企業を対象とした調査によると、AIインフラは本番稼働段階に移行しており、3分の2がAIワークロードを実際に運用し、10社中3社が大規模に運用している。しかし、そのインフラコストを正確に把握する能力は追いついていない。企業は購入決定においてコストを重視しなくなり、パフォーマンスとGPUの可用性が総所有コストを上回り、信頼性が成功の指標として価格を上回っている。これは、本番稼働のプレッシャー下にあるチームにとっては合理的な判断だが、半数未満しかAIコンピューティングコストを厳密に追跡できず、多くのGPUは半分の容量以下で稼働しているという事実に直面している。次回の投資は、利用率の低い専門クラウドに向けられている。現在、3分の2(66%)の企業がAIワークロードを本番稼働させており、29%が大規模に運用している。プラットフォームとしては、OpenAI(49%)、Google Gemini(48%)、Microsoft Azure(47%)、Google Cloud(42%)が約半数の企業で利用されている。購入基準では、既存のクラウドやデータスタックとの統合が40%でトップだが、パフォーマンス(レイテンシとスループット)が35%で2位、GPUの可用性が24%で3位となり、総所有コスト(22%)を上回った。測定基準でも同様で、稼働時間と信頼性が51%でトップ、開発者生産性が39%で続き、トークンあたりコスト(31%)を上回った。GPUの利用率に関しては、69%が50%以下の利用率を報告しており、23%しか半分を超えていない。AIコンピューティングのコストとリターンを厳密に追跡できているのは47%に過ぎない。次回の支出は、AI専門クラウド(44%)に最も注目が集まっているが、現在の利用率は3.5%に過ぎない。62%の企業が12ヶ月以内にプロバイダーを切り替えるか追加する意向だが、検討対象は既存のプロバイダーが中心となっている。
- 170社の調査で、66%の企業がAIワークロードを本番稼働させ、29%が大規模運用している
- 購入基準ではパフォーマンス(35%)とGPU可用性(24%)が総所有コスト(22%)を上回る
- 69%の企業がGPU利用率50%以下と報告し、AIコンピューティングのコストを厳密に追跡できるのは47%のみ
- 次回のAI支出は専門クラウド(44%)に注目が集まる一方、その現在の利用率は3.5%に留まる
- プラットフォーム採用率はOpenAI(49%)、Google Gemini(48%)、Microsoft Azure(47%)、Google Cloud(42%)
- 62%の企業が12ヶ月以内にAIプロバイダーを切り替えるか追加する意向
AIインフラ投資が本番稼働段階へ移行する中、コスト管理能力が追いついていない点は投資判断上重要なシグナル。企業がGPU可用性とパフォーマンスを総所有コストより優先する購買行動と、GPU利用率の低さ(69%が50%以下)が示す資本効率の悪さは、AIコンピューティング市場の需給逼迫と過剰投資のリスクの両方を示唆する。専門クラウドへの支出シフト(44%)と既存大手プラットフォーム(OpenAI、Azure等)の高い採用率は、市場競争構造の変化を捉える上で注目すべき点。