模组解锁英伟达RTX 20/30/40系隐藏AI算力,部分基准近翻倍

二手RTX 3090因24GB显存远比同规格工作站卡便宜,成为家庭跑大模型的热门选择,但英伟达规格表写明:GeForce在FP16或BF16乘法并以更高精度FP32累加时,指令吞吐仅有FP16累加模式的一半,而这正是多数训练与大量推理所依赖的路径;同芯片工作站卡如RTX A6000则以全速运行。GitHub用户Zagitta先发布面向RTX 30系的Linux内核模块gpu-unlock,在英伟达驱动加载前改写两枚速度选择寄存器并复位显卡,之后由常规驱动接管,无需刷VBIOS或打补丁。在限功率450W的RTX 3090 Ti上,开发者矩阵乘加测试显示BF16吞吐由87.5升至157.4 TFLOPS,TF32近乎翻倍,FP16约提升35%。他人已将模块适配另外两代:gpu-unlock-ada使RTX 4090的FP16指令发射率从165.6升至331.6 TFLOPS,但说明文件坦言这是原始发射率,独立机主实测矩阵负载增益约12%至34%;面向RTX 2080 Ti的turing-unlock在22GB改内存卡上测得FP16矩阵运算加快36%至64%,图灵无BF16硬件故不适用。游戏几乎不用这类运算,聊天机器人出词速度也因受限于显存带宽几乎不动,提示词预填充据称可快14%至36%,图像生成与微调受益最大。目前支持以Linux为主,另有少量针对特定硬件验证的实验性Windows移植。Zagitta认为常规限频与电源管理仍在、硬件损坏可能性很低,而turing-unlock说明则更谨慎,提醒张量核心功耗高、全力运行或有损坏风险。
编号 NEWS-19985
分类科技
时间2026-10-27 22:10:54
相关10