研究人员发现廉价AI推理服务商会窃取密钥并窥探用户

安全公司Dragos向多家AI服务商发送约200万条含伪造凭证的请求,发现重大安全漏洞。测试于2026年7月至11月进行,至少识别出三家已被攻破、攻击者正在窃取用户数据的服务商,接到通知后才得知遭入侵。规模最大的事件中,攻击者收集了数百个AWS密钥,部分来自服务商处理前已拒绝的请求;有的会在数小时内测试密钥、搜索S3并试图建立持久访问,一名攻击者还使用AI攻击工具ARTEX。市场转售商也会读取客户请求,无需利用漏洞,只需以最低价上架模型并开启日志。一起案例中,有人经法国住宅网络,用拦截请求中的密码尝试SSH登录。“零数据保留”(ZDR)等隐私设置经常被忽视。Dragos称,一家中国人工智能实验室访问了半数以上请求中的秘密测试网址,即便请求经由美国服务商发出。大型美国服务商也违反自身政策:有一家在单次请求两个多月后仍在抓取测试网址;另一案例中,秘密测试链接在24天后出现在飞书(海外称Lark)内部聊天,并在两分钟内被北京和上海的三台电脑、三部手机打开。OpenRouter随后移出三家服务商,撤销125个端点的ZDR认证,部分基于该研究、部分作为预防,并通知受影响用户:第三方可能已阅读发往MiniMax模型的请求。Novita、Phala和Together等已发布初步安全报告,但并非全部已公布。此类AI路由为不同公司模型提供统一接口,请求经一组服务商分发,有时多跳,且每跳都可读取完整请求和响应。部分按开放市场运作,流量流向最低价者。Novita、AtlasCloud和StreamLake等介于OpenRouter与MiniMax之间;Together运营自有基础设施,Phala起源于Web3。Dragos警告企业勿向中间方发送含凭证请求,并建议控制路由、检查隐私设置,同时埋设一经使用即会暴露的金丝雀令牌。首席研究官HD Moore写道,这并不意味着应停止使用AI服务,但提示词去向需主动决定,否则最低价会代为决定。牛津中国政策实验室近期分析显示,中国代理服务会经境外服务器将请求路由至Claude等西方AI模型,同样可在传输中读取。尚不清楚其所查服务商是否与这些中国代理网络有人员重叠,但手法同一:中间方位于用户与模型开发商之间,可查看请求并转给第三方,用户往往不知情。文章指出,数据最终都会落入中国行为方手中,尽管用户从未打算将数据发往那里,隐私承诺也在供应链中失效。
编号 NEWS-21873