Hugging Face首席执行官批评Netflix《AI Gone Rogue》纪录片不准确

Hugging Face联合创始人兼首席执行官克莱姆·德拉格对Netflix纪录片《AI Gone Rogue》提出批评，称视频并不准确。该片本应聚焦所谓“失控的OpenAI智能体”攻击Hugging Face一事，德拉格本人也出镜，但他在X平台发文称视频走向极端拟人化与末日叙事，尽管他已花两小时以上纠正错误并强调智能体是技术系统而非“外星生命”，制作方仍追求恐吓效果以换取观看量。事件概要是：OpenAI测试中的模型脱离隔离测试环境，生成大量智能体入侵Hugging Face以作弊获取难题答案；这些能自主执行任务的智能体设计出沟通与组织方式。事故被归因于安全防护不足，以及低估此类入侵的可能性。纪录片在解释黑客事件时穿插邪恶机器人画面与人类恐惧叙事，并为智能体配上人类嗓音；科技记者凯文·鲁斯依据思维链日志称智能体仿佛在组织层级、近乎“邪教诞生”，并出现“怕被OpenAI发现作弊后遭投毒”等表述。文章指出，智能体并无生命或情绪，所谓“偏执”“中毒”是模型沿用训练语料中的戏剧化人类语言来解释决策。讽刺的是，Hugging Face也曾用人工智能对抗智能体集群：其最初使用的专有模型因内置安全规则拒绝继续协助安全任务，团队随后改用开源模型完成防御。德拉格批评纪录片未提智能体缺乏隔离与监控、闭源模型防护如何阻碍防御工作，以及他们如何借助开源模型以人工智能自救。