你的人工智能代理已有钱包,谁来为其决策负责?

随着人工智能代理开始拥有钱包并直接付款,交易授权正从付款当下由人拍板,转向事先给出指令。文章指出,仍需每次人工批准的代理只是更快的结账按钮,而非真正的代理。行业在让代理使用现有支付方式方面进展很快,但尚未解决代理可以决定什么、以及决策出错时由谁承担损失,而解决这一问题的公司将定义所谓的代理经济。文章举例称,若让代理在五千美元预算内规划家庭度假,它可能订错不可退款的航班日期、预订距海滩四十分钟的酒店,并接受航空公司代理提出的还价,悄悄取消托运行李;尽管每笔付款都已获授权、商家也按订单履约,行程仍与用户要求相去甚远。OpenAI的条款将交付和退货留给商家,并保留现有的银行卡争议保护,但代理带来了一种新的失败形态:交易已获正当授权且已履行,却未能体现用户指令。现有争议机制或许能提供补救,却并未明确当过错出在代理判断时该由谁承担损失。文中强调,授权花钱并不等于授权判断,而当前基础设施只会核验前者。行业正着手建立可验证的授权指令,例如谷歌的代理支付协议用加密签名记录用户提出并批准的内容,但这还不够:签名可以证明授权了什么,却无法证明代理正确理解了用户偏好、真正为用户利益行事,或未受外部激励左右。要弥合这一缺口,需要更广义的“了解你的代理”:不仅核实是谁的代理、获得了何种授权,还要核验代理是否按预期行使了权限。这首先要求授权指令能够捕捉意图。目前代理权限仍多集中在价格上限、时间和产品参数上,而有意义的授权还应写入用户优先级、可接受与不可接受的取舍,以及必须上报的条件,例如未经询问不得预订不可退款项目。相关约束须能在交易过程中由商家代理、支付机构和事后仲裁方核验,又不必不必要地暴露用户的私人指令。支出上限只说明可以花多少,授权指令则说明是为了什么。
编号 NEWS-21799
分类人工智能
时间2026-11-21 21:07:05
相关10