AIの隠れた問題は不足でなく『無駄』——稼働率3〜5割、最適化で費用8割減も

『ScaleOpsがAIのクラウド費用最適化で1.3億ドル調達』という一報を、地味なインフラ調達として読むと核心を逃す。TechCrunchやUnite.AIの報道、ScaleOpsの主張、稼働率のデータを重ねると、AI拡大の議論が見落としてきた真実が浮かぶ。AIの隠れた最大の問題は、計算の『不足』でなく『無駄』だ。企業のKubernetesクラスタは、稼働率がわずか3〜5割にとどまる。Kubernetesの静的設定が需要変動に追いつけず、性能低下を恐れたチームがGPUを過剰確保し、使われない遊休に費用を払い続けるからだ。ScaleOpsは評価額8億ドル超で1.3億ドルを集め、年450%で伸び、自律的な資源調整で最大8割のクラウド費用削減を主張する。創業者が、NvidiaがGPU群管理で買収したRun:aiの出身である点も、この領域の重みを物語る。

最大の論点は、AIの本番化が論点を『使えるか』から『運用費を払えるか』へ移した点だ。PoCでは見えなかった費用が、本番では一気に膨らむ。AIエージェントが大量にGPUを呼ぶほど、過剰確保と遊休のコストが効いてくる。ここで決定的なのは、解が『もっと建てる』でない点だ。AI拡大の主流の議論は、データセンター（[[nvidia-openai-data-center-buildout]]）・チップ・電力をいかに増やすかに偏る。だが稼働率が3〜5割なら、既に持っている計算の半分以上が遊んでいる。最大8割削減が、ハードを一切増やさず可能になるのだ。つまり隘路は供給でなく配分にある——これは推論を複数チップへ最適配分するGimlet（[[gimlet-multi-silicon-inference-cloud]]）の『稼働率を埋める』論理と同型だ。見落とされがちなのは、無駄取りが建設より速く安い点である。データセンターは数年と巨額を要するが、配分最適化はソフトで即効く。AIの計算戦略は、増設一辺倒から『使い切る』へ重心を移しつつある。