2026年AI推理硬件变革:需求爆发推动新芯片与巨头合作
文章称,自约2020年以来行业重心长期在训练更大模型,但到2026年推理已跃居前台。分析师马特·金博尔指出CIO们最关心推理;英伟达CEO黄仁勋在GTC 2026上称之为“推理拐点”。原因包括大模型更实用、推理模型需多轮链式思考从而生成更长输出,以及智能体式AI可全天候自主运行。需求激增催生意外合作:OpenAI与亚马逊部署Cerebras餐盘级晶圆级芯片,亚马逊将Trainium与Cerebras分工;英伟达以约200亿美元争议交易收购Groq关键人才与知识产权;Anthropic每月向SpaceXAI支付逾十亿美元租赁闲置算力。文中对比训练与推理计算差异,并介绍预填与逐词解码阶段对内存带宽的不同压力。
