企業正在瘋狂購買AI計算資源，但很少有人真正知道錢花在了哪裡。這是VentureBeat Pulse Research最新調研的核心發現——一份覆蓋107家企業的報告，描繪了一幅不太對稱的圖景：支出在加速，可見性卻嚴重滯後。
一個快速膨脹的計算缺口
調研顯示，絕大多數企業的AI工作負載仍然執行在熟悉的雲平臺（如AWS、Azure、Google Cloud）和模型提供商的API上。但有趣的是，下一筆預算已經開始瞄準專業計算資源——那些幾乎沒有任何一家企業今天大規模使用的專用硬體。超過一半的受訪者計劃在未來一年內更換或增加供應商，其中不少打算在一個季度內行動。這種快速遷移的意願，加上採購決策越來越取決於整合成本和總擁有成本（而非單純的token價格），讓整個市場充滿變數。
然而真正的問題不在於買什麼，而在於是否知道買來的東西怎麼用。報告指出，GPU的平均利用率不到50%，甚至更低。更糟糕的是，不到一半的企業能夠嚴格跟蹤他們計算資源的實際成本。也就是說，大多數企業正在盲目投資。
為什麼成本可見性這麼差？
原因並不複雜。AI基礎設施的採購往往由業務部門或AI團隊驅動，而非財務或IT運維。他們更關心模型效能和上線速度，而不是每美元能產生多少token。同時，雲賬單的複雜性——不同例項型別、預留例項、資料傳輸費用、API呼叫費用——使得準確分攤成本成為一項艱鉅任務。許多企業直到收到高昂的月度賬單才開始納悶為什麼會超支。
這種資訊不對稱形成了一個典型的錢坑：公司持續投入，卻無法判斷投資回報。當管理層詢問支出合理性時，團隊拿不出資料。結果要麼是繼續燒錢，要麼是過度收縮，錯過機會。
採購決策：整合和TCO勝過token價格
報告發現了一個值得注意的趨勢：企業在選擇供應商時，更關注整合難度和總擁有成本，而非單位token的價格。這意味著，即使某家API提供商的價格便宜，如果遷移成本高或需要大規模改程式碼，企業也不會輕易切換。這給新入局的雲服務商和硬體廠商提了個醒——光便宜不夠，還得容易用。
- GPU利用率普遍偏低：大部分企業GPU平均利用率不到50%，部分場景甚至低於20%。
- 成本跟蹤缺失：只有約40%的企業能準確核算AI計算成本，其餘依賴估算或完全不知。
- 供應商流動意願強：超過60%的企業計劃在一年內更換或增加供應商，部分甚至在本季度就行動。
這種流動性部分源於對效能和成本的不滿。但諷刺的是，如果企業連當前成本都算不清楚，又怎麼能確定下一家會更便宜？
實際影響：誰來填這個缺口？
對技術決策者來說，這個調研結果既是警示也是機遇。警示在於，如果繼續以當前速度投資卻無視成本可見性，很快就會出現預算失控。機遇則是，率先構建內部成本度量體系的企業將獲得競爭優勢——他們能更精準地分配資源，避免浪費。
一個典型的場景是：資料科學家為了快速實驗，啟動了一組高配GPU例項，訓練完成後忘記關閉，導致整夜空轉。如果缺乏自動化和監控，這種浪費會持續積累。調研資料表明，這並非個例。解決之道包括引入多雲成本管理工具、設定預算警報、以及推動AI團隊與財務部門定期對賬。
「購買基礎設施的速度超過了解其成本的速度，這不是簡單的超支問題，而是戰略失誤。」——一位參與調研的企業IT主管表示。
給企業的幾點實用建議
首先，立即建立一個基礎的成本跟蹤機制。哪怕是用電子表格記錄每月的GPU例項使用小時數，也比完全盲目要好。其次，在採購新基礎設施之前，先評估現有資源的利用率。很可能你會發現，通過優化已有的機器就能釋放大量算力。最後，不要被低token價格迷惑。算上整合、維護和遷移成本，總擁有成本往往比想象的高得多。
AI基礎設施投資狂潮才剛開場。那些能及早看清成本全貌的企業，才更有可能在長期競爭中站穩腳跟。至於其他人，大概會一邊繼續下單，一邊祈禱雲賬單不會太難看。
評論
暫無評論
成為第一個評論的人