OpenAI披露新模型Astra可能具备关键黑客能力

近日，OpenAI在其官方博客中宣布，其即将发布的大型语言模型Astra可能存在严重网络安全威胁。根据该公司的人工智能安全性框架《Preparedness Framework》，如果一个LLM能够发现针对“许多加固的真实世界关键系统”的零日漏洞，并且这些漏洞跨越多个严重程度级别，则该模型将被归类为具有‘Critical’级别的风险。OpenAI表示，Astra是首个可能被评为‘Critical’的大型语言模型。为了应对这一潜在威胁，该公司正在采取措施限制Astra访问公共网络，并加强加密保护以防止黑客窃取其代码。此外，OpenAI还计划与第三方测试合作伙伴和相关政府机构合作，共同评估并降低风险。