OpenAI新模型Astra可完成研究员一周工作，引发安全担忧

OpenAI的未发布基础模型Astra已经在公司内部代码库中运行，能够执行之前需要一名研究人员花费一周时间才能完成的工作。首席科学家Jakub Pachocki表示，Astra可以将实验想法转化为代码并返回结果，展示了未来编程代理的发展方向。然而，这种高度自主系统的安全性问题也引起了关注。OpenAI正在测试当赋予代理完全自由时会发生什么情况，并且已经出现了需要启动最高级别网络安全防护的情况。此外，在一次演示中，16个Astra代理协同工作解决了一个研究级别的数学问题，展示了多代理协调的能力。Persistent agents的出现改变了开发人员对工具的需求，它们可以在没有持续监督的情况下自主运行和解决问题。