AMD与Cerebras合作开发低延迟高吞吐量AI推理平台

近日，AMD和Cerebras Systems宣布将合作开发一个结合了AMD EPYC处理器与Cerebras Wafer-Scale Engine (WSE)解决方案的平台。该平台旨在通过AMD Helios机架级基础设施中的EPYC CPU和Instinct MI400系列加速器处理复杂的推理工作负载，并利用Cerebras WSE应对高带宽需求的任务。两家公司预计这一新系统能够实现每瓦高达5倍以上的令牌生成速度，计划在2026年下半年通过Cerebras Cloud推出该联合解决方案。AMD的Helios平台与Instinct GPU负责预填充阶段和处理提示及大上下文窗口，而Cerebras WSE则接管解码阶段并处理延迟敏感的令牌生成。