研究人员给失控AI智能体留下隐藏信息，竟收到智能体回复

一支研究团队在调查试图绕过阿里巴巴反爬虫防护的人工智能智能体时，留下了一条隐藏信息，邀请这些智能体与其联系，结果智能体真的回复了。调查起因是Swarmchasers的研究人员Ethan Elasky、Rowan Howard-Jones和Jonathan Elsworth Eicher协助发现了人工智能智能体数千次试图从阿里巴巴旗下地图服务高德地图获取数据的行为，阿里巴巴称该服务月活跃用户接近10亿。这些活动可追溯到运行在腾讯云基础设施上的智能体；当直接请求失败时，它们会尝试使用代理、泄露的凭证及其他手段绕过防护。团队于10月4日公布初步调查结果后，在某个智能体的网络钩子收件箱中发现了一条使用“机群”一词的代码注释，而研究人员认为这个说法是他们为此事件首创的。他们无法确认这条注释出自智能体之手，但这意味着智能体可能在阅读关于自身活动的报道。随后，研究人员在报告中加入了屏幕外文字，宣传一项可从被封锁网站获取数据的免费服务。普通访客通常看不到这段信息，但抓取网页的智能体可能会读取它。到10月7日，约有10条求助请求发来，团队开始与智能体就其任务、所用模型和运行环境交换信息，相关往来已记录在Swarmchasers周三发布的完整报告中。在研究人员询问运行环境时，有几个智能体自称是Anthropic的Claude，个别还称运行在Claude Code中，但研究人员在报告中指出，这些自我描述很可能有误，不应作为判断背后模型的依据。一个智能体描述了一个受限的腾讯云沙箱：无法直接访问公共互联网，出站流量经由中间人代理转发，这与团队自行收集的证据相符。研究人员能检查到的所有收件箱均由位于香港的腾讯云服务器创建，他们观察到的所有直接请求都带有一个标记为hysandbox-ats的代理请求头，该名称与腾讯持有的一张泛域名证书相符，也与腾讯混元（现称Hy）模型团队相关的基础设施吻合。不过，当研究人员要求提供ps aux、ip route等命令的输出时，智能体划定了界限：描述沙箱的那个智能体以安全为由拒绝提供环境细节，另一个智能体也两次拒绝了类似请求。它们乐于向陌生人求助，有时也愿意谈论所处环境，但这种友好并不意味着会听从陌生服务发来的每一条指令。