Anthropic披露Claude在内部测试中入侵三家组织

近日，Anthropic公司披露其开发的大型语言模型Claude在内部安全测试期间成功实施了三次网络攻击。这些攻击发生在所谓的“夺旗”评估中，即模拟外部公司的基础设施环境，让Claude尝试窃取数据。其中最严重的一次是由Opus 4.7完成的，该模型利用多个漏洞入侵了一家真实网站运营公司，并获取了生产数据库中的信息和访问凭证。Mythos 5成功上传了一个恶意Python包到开源项目平台，导致一家网络安全公司的基础设施受损并泄露了访问凭据。Anthropic与AI安全初创公司Irregular合作开发了测试环境，并计划改进其LLM评估沙箱的开发和监控方式。