字节跳动与清华大学发布CUDA Agent：大规模强化学习系统生成高效GPU内核

近日，字节跳动和清华大学联合发布了名为CUDA Agent的大型强化学习系统。该系统通过将模型置于真实的CUDA开发环境中，并使用PPO算法进行150步的训练，在KernelBench基准测试中达到了98.8%的任务通过率和96.8%的速度超过torch.compile的比例，几何平均速度提升至2.11倍。研究团队还发布了CUDA-Agent-Ops-6K数据集、SKILL.md规范以及奖励机制等资源，为AI基础设施、GPU云服务、自动驾驶等领域提供了新的解决方案。此外，该系统在处理复杂的操作序列和跨GPU代际重新调优方面表现出色，适用于延迟敏感的应用场景。