Clarifai推出新推理引擎:AI运行速度提升一倍 成本降低40%

2025年09月26日来源:techcrunch分类:人工智能
Clarifai推出新推理引擎:AI运行速度提升一倍 成本降低40% 图片封面
1
AI平台Clarifai宣布推出全新推理引擎,声称可使AI模型的运行速度提升两倍,同时将成本降低40%。该系统能够适配多种模型与云环境,通过CUDA内核优化和推测解码等技术,让相同硬件发挥更大推理性能。第三方机构Artificial Analysis的基准测试确认其在吞吐量和延迟方面达到业界最佳水平。此产品专注于推理阶段,尤其针对需要多步计算的智能体模型,正值算力需求飙升之际,成为缓解GPU与数据中心压力的重要方案。Clarifai首席执行官Matthew Zeiler表示,除了硬件扩容,软件和算法优化同样能避免对超大规模数据中心的过度依赖,这预示着AI基础设施未来仍有巨大优化潜力。
支持率>95%