AI智能体失败时，问题未必出在模型本身

随着AI智能体进入生产环境，从请求到结果的路径变得更难预测：智能体可自行选择工具并在执行中改道，一旦没有明显异常可供追踪，故障诊断就会变难。英伟达产品副总裁Adel el Hallak在接受The New Stack采访时指出，随着任务变复杂，开发者需要更多可见性。英伟达也参与了行业协作项目Secure Agent Findings Exchange（SAFE）。该计划约有140家公司支持，希望借鉴传统软件漏洞披露做法，建立用于报告智能体故障的共享基础设施，使发现的问题可被多方共同修补。智能体故障往往无法简单归因到单一组件，开发者首先要回答的是：失败时到底该调试什么。传统可观测性在此常不够用。常规软件出问题时通常有异常、失败请求或服务宕机作为起点，而智能体可能在没有典型软件故障表象的情况下持续运行却方向错误，把早期失误带入后续步骤，或在不该发挥创意时擅自改道。即便表现最好的编程智能体，在真实代码库任务上的失败率仍超过60%；知道失败与知道原因不是一回事。el Hallak强调，仅看日志与输入输出不够，还要弄清推理轨迹、使用了哪些工具、卡在何处以及何时决定换思路。