OpenAI发布Jalapeño AI加速器：性能超越英伟达

在Hot Chips会议上，OpenAI详细介绍了其名为Jalapeño的AI推理处理器架构，并分享了该芯片的实际性能数据。该公司声称，通过采用NUMA风格的空间架构，Jalapeño在低延迟推理和每瓦性能方面超越了英伟达的GB200和GB300芯片。一个由2,048个处理器组成的系统可以达到27 exaFLOPS的计算能力和每秒32 PB的总内存带宽。此外，Jalapeño仅用九个月就完成了设计并达到了量产阶段，展示了其在开发速度上的优势。这种高效的架构使得Jalapeño能够在保持高性能的同时大幅降低能耗，为大规模部署提供了可能。