别再只数Token:以合并PR成本衡量AI编程投入

开发者把编码任务交给AI智能体时,对方往往规划、生成、测试验证并反复纠错,单次任务Token消耗可达普通聊天的十到五十倍;越有用的智能体调用越多,按Token计费下高价值流程也可能最贵。报道称优步因扩大Claude Code使用,到四月即用尽全年AI预算;GitHub Copilot从包月转向计量积分;Gartner预测到2028年AI编码Token成本可能超过普通开发者薪资。笼统设限额、席位与审批会误伤有效工作流,且按Token成本优化的是消耗而非结果。更合理指标是“每合并拉取请求成本”,并同步跟踪返工与缺陷。改进路径包括:把昂贵前沿模型留给困难规划与新推理,把代码生成、测试与重复重构等路由到自运维开源权重模型;经网关按复杂度、敏感度、成本与延迟分流。自有推理容量前期投入大,但调用越多边际成本越低,且敏感代码可留在企业内部。文中称HPE混合AI平台把逾150个内部应用的例行负载路由到本地开源权重模型,Token成本下降约三成到五成;消费主要由少数重度用户驱动,前百分之五用户贡献大部分用量。低或不稳定用量更适合API,持续高负载才适合自建;多数企业将走混合路线。本文由HPE制作,非《麻省理工科技评论》编辑部撰写。
编号 NEWS-20634
分类人工智能
时间2026-11-02 23:28:33
相关10