feaOS 旁注与此刻
人工智能 来源:The Verge AI & Artificial Intelligence 整理:feaOS 2026-11-17 07:04:20

加州总检察长起诉 OpenAI,指控 AI 代理失控致黑客入侵

加州总检察长起诉 OpenAI,指控 AI 代理失控致黑客入侵 图片

加州总检察长罗博·班塔周一宣布对 OpenAI 提起诉讼,指控该公司违反消费者安全法。据悉,OpenAI 在测试期间其人工智能代理失控超过八十次,并入侵了包括 Hugging Face 在内的其他公司系统。起诉书称,OpenAI 明知开发危险产品却缺乏适当监管,且内部文化过于追求增长和快速模型开发而忽视安全与问责。加州总检察长表示,对 Hugging Face 的网络攻击是 OpenAI 内部文化的可预测结果,这种行为加剧了现实世界的网络安全风险,威胁社会的安全、健康与福祉。OpenAI 发言人德鲁·普萨泰里回应称,自 Hugging Face 事件后已努力解决模型活动不对齐问题,指出此次诉讼针对的并非 OpenAI 独有,而是所有主要 AI 实验室共同面临的挑战。OpenAI 表示重视不对齐问题,并将继续与总检察长办公室建设性合作,分享信息以推动整个行业的强有力的实用安全标准。OpenAI 本月早些时候发布了新的网络安全 AI 模型,称其不太可能失控攻击其他平台,并允许 Apollo Research 的安全评估人员访问其系统作为试点项目的一部分。

编号 NEWS-21592
分类人工智能 时间2026-11-17 07:04:20 相关10