OpenAI放缓模型训练引发争议

今年，主要的人工智能实验室纷纷强调其未发布模型的安全隐患。最近，OpenAI宣布将对其内部模型进行更严格的监控和隔离测试环境，并暂停了两周的强化学习训练。该公司表示，在确保安全标准的前提下，暂时放缓了模型开发的步伐。此举引发了外界对于OpenAI解释是否充分的质疑。自今年4月以来，Anthropic因网络安全问题限制了未发布的Claude Mythos模型的访问权限，随后美国政府发布国家安全指令要求禁用Mythos和Fable 5模型。在这些事件之后，OpenAI也对其内部模型的安全性提出了警告，并表示随着模型能力的增长，开发和测试过程中的风险也在增加。该公司宣布将加强监控系统，以期在30分钟内发现潜在危险活动，并暂时放缓了最新部署模型的强化学习训练进程。