企业AI计算成本难以衡量

根据VentureBeat的最新研究，尽管超过三分之二的企业已经将AI工作负载投入生产环境，但只有不到一半的企业能够准确追踪其AI计算的成本。大多数企业的GPU利用率仍低于50%，并且企业在购买决策中更重视性能和GPU可用性而非总拥有成本或价格。此外，虽然有44%的企业计划评估专门用于AI的云服务，但实际上使用这些服务的比例却很低。研究显示，在170家企业中，66%已经将AI工作负载投入生产环境，29%在大规模部署AI，而只有30%仍在进行概念验证阶段。企业在选择基础设施时，性能和GPU可用性成为主要考虑因素，而非总拥有成本或价格。尽管如此，大多数企业（69%）报告其GPU利用率低于50%，仅有47%的企业能够严格追踪AI计算的成本和回报。