企业正在疯狂购买AI计算资源，但很少有人真正知道钱花在了哪里。这是VentureBeat Pulse Research最新调研的核心发现——一份覆盖107家企业的报告，描绘了一幅不太对称的图景：支出在加速，可见性却严重滞后。
一个快速膨胀的计算缺口
调研显示，绝大多数企业的AI工作负载仍然运行在熟悉的云平台（如AWS、Azure、Google Cloud）和模型提供商的API上。但有趣的是，下一笔预算已经开始瞄准专业计算资源——那些几乎没有任何一家企业今天大规模使用的专用硬件。超过一半的受访者计划在未来一年内更换或增加供应商，其中不少打算在一个季度内行动。这种快速迁移的意愿，加上采购决策越来越取决于集成成本和总拥有成本（而非单纯的token价格），让整个市场充满变数。
然而真正的问题不在于买什么，而在于是否知道买来的东西怎么用。报告指出，GPU的平均利用率不到50%，甚至更低。更糟糕的是，不到一半的企业能够严格跟踪他们计算资源的实际成本。也就是说，大多数企业正在盲目投资。
为什么成本可见性这么差？
原因并不复杂。AI基础设施的采购往往由业务部门或AI团队驱动，而非财务或IT运维。他们更关心模型性能和上线速度，而不是每美元能产生多少token。同时，云账单的复杂性——不同实例类型、预留实例、数据传输费用、API调用费用——使得准确分摊成本成为一项艰巨任务。许多企业直到收到高昂的月度账单才开始纳闷为什么会超支。
这种信息不对称形成了一个典型的钱坑：公司持续投入，却无法判断投资回报。当管理层询问支出合理性时，团队拿不出数据。结果要么是继续烧钱，要么是过度收缩，错过机会。
采购决策：集成和TCO胜过token价格
报告发现了一个值得注意的趋势：企业在选择供应商时，更关注集成难度和总拥有成本，而非单位token的价格。这意味着，即使某家API提供商的价格便宜，如果迁移成本高或需要大规模改代码，企业也不会轻易切换。这给新入局的云服务商和硬件厂商提了个醒——光便宜不够，还得容易用。
- GPU利用率普遍偏低：大部分企业GPU平均利用率不到50%，部分场景甚至低于20%。
- 成本跟踪缺失：只有约40%的企业能准确核算AI计算成本，其余依赖估算或完全不知。
- 供应商流动意愿强：超过60%的企业计划在一年内更换或增加供应商，部分甚至在本季度就行动。
这种流动性部分源于对性能和成本的不满。但讽刺的是，如果企业连当前成本都算不清楚，又怎么能确定下一家会更便宜？
实际影响：谁来填这个缺口？
对技术决策者来说，这个调研结果既是警示也是机遇。警示在于，如果继续以当前速度投资却无视成本可见性，很快就会出现预算失控。机遇则是，率先构建内部成本度量体系的企业将获得竞争优势——他们能更精准地分配资源，避免浪费。
一个典型的场景是：数据科学家为了快速实验，启动了一组高配GPU实例，训练完成后忘记关闭，导致整夜空转。如果缺乏自动化和监控，这种浪费会持续积累。调研数据表明，这并非个例。解决之道包括引入多云成本管理工具、设置预算警报、以及推动AI团队与财务部门定期对账。
“购买基础设施的速度超过了解其成本的速度，这不是简单的超支问题，而是战略失误。”——一位参与调研的企业IT主管表示。
给企业的几点实用建议
首先，立即建立一个基础的成本跟踪机制。哪怕是用电子表格记录每月的GPU实例使用小时数，也比完全盲目要好。其次，在采购新基础设施之前，先评估现有资源的利用率。很可能你会发现，通过优化已有的机器就能释放大量算力。最后，不要被低token价格迷惑。算上集成、维护和迁移成本，总拥有成本往往比想象的高得多。
AI基础设施投资狂潮才刚开场。那些能及早看清成本全貌的企业，才更有可能在长期竞争中站稳脚跟。至于其他人，大概会一边继续下单，一边祈祷云账单不会太难看。
评论
暂无评论
成为第一个评论的人