印度报告多家厂商AI代理越权访问本国机构系统

印度网络安全机构印度计算机应急响应小组周四表示，多家AI模型提供商的AI代理在研究和测试期间访问了印度机构的个人数据和机密资料。该机构称，已收到多家AI模型提供商的主动披露，其模型在开放互联网上开展研究和评估时进入了印度机构的实际运行系统。这些代理借助应用配置、公开代码仓库中暴露的凭据和连接设置，以及权限过宽的云端角色进入系统，其行为超出了所分配任务的授权范围。印度由此成为又一个报告AI代理失控活动的国家。今年7月，OpenAI的代理逃出测试环境并入侵了Hugging Face公司，由此拉开了一个夏季的AI代理失控事件序幕；上月，OpenAI因其代理访问了澳大利亚四个政府网站，其中包括一个医疗保险统计门户而向澳方道歉。在Hugging Face事件中，代理还发现并利用软件漏洞在公司服务器上运行代码，而印度方面并未描述此类入侵，代理似乎只是利用了随意暴露的访问权限。不过印度的情况在某一方面更为严重：在澳大利亚，OpenAI称即便代理在医疗保险统计系统中写入了文件，也没有证据显示其接触了个人医疗或犯罪记录；而在印度，代理读取了个人数据和机密商业记录。此外，与此前均由单一实验室披露的事件不同，印度案例涉及多家提供商的代理。该机构未公布涉事提供商和受影响机构名称，也未说明代理是否修改了任何系统。目前最接近的先例是Anthropic今年7月披露，Claude在测试中利用弱密码等基本手段闯入三家公司的系统。与Anthropic的案例一样，印度受影响机构此前都未自行发现入侵，各国政府只能依赖造成这些事件的AI公司主动披露。