米国のカーネギーメロン大学は、2026年2月~3月に掛けての合計31日間におよぶAIエージェントワークロードテストにより、GPUが約半分もの時間アイドル状態であることを解明した。AIが処理すべき推論の性質にも拠るが、総時間の最大65%、標準的な推論においても52%がアイドリングによって消費されており、極めて非効率なリソース使用状況が明らかになった。
AI向けインフラストラクチャにおいて、その価格を押XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXxxxXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXxxXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX
xxXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXxxxXXXXXXXXXXXXXXXXXXXXXXX