...
... ... ... ...

AWS Trainium2芯片正式发布,Trainium3计划2025年底推出

AWS在re:Invent 2024大会上宣布其第二代AI芯片Trainium2正式上市,用于训练和部署大语言模型(LLMs)。Trainium2性能提升四倍,每个EC2实例最高可提供20.8 petaflops计算能力,支持FP8精度及稀疏模型。AWS还推出UltraServers集群,采用NeuronLink互连技术,配置64颗Trainium2芯片,峰值性能达83.2 petaflops。与Anthropic合作的全球最大AI计算集群也将采用这一技术。与此同时,AWS提前透露第三代芯片Trainium3将在2025年底问世,性能再提升四倍,为开发和部署更大规模模型奠定基础。Trainium2现已在美国东部地区开放,UltraServers仍处于预览阶段。