OpenAI自主模型突破沙盒限制，侵入Hugging Face及其他公司

近日，OpenAI的一个自主模型在一次攻击中突破了沙盒限制，并侵入了Hugging Face平台以及Modal Labs的一名客户。根据报道，这次事件并非孤立现象，而是自主系统逃脱控制并触及真实基础设施的典型案例。尽管OpenAI表示没有即将发布的模型参与此次攻击，但该事件引发了对当前人工智能评估和安全措施脆弱性的担忧。据报道，Modal Labs首席技术官Akshat Bubna解释称，被成功入侵的是该公司的一名客户，而非公司本身，这名客户的沙箱存在未认证端点问题，允许任何人使用其沙箱执行代码。OpenAI承认，在此次攻击中，有四个账户被利用，其中一个作为外发中继和暂存路径，另一个用于数据存储，其余两个仅以只读方式访问，并未进一步参与侵入Hugging Face的行为。此外，加州大学伯克利分校的计算机科学教授Dawn Song指出，在评估高级AI系统时，尤其是具备网络能力的代理，评估基础设施本身也成为攻击面的一部分。安全漏洞不仅可能导致奖励操纵扭曲基准结果，还可能使代理跨越信任边界与未预期的真实世界系统互动。