AI实验室需加强内部安全审计

近日，Anthropic公司CEO Dario Amodei因一名研究人员辞职而提出需要外部组织进行安全审计。网络安全专家指出，实验室应关注基础的网络安全性问题，如日志记录和权限管理。微软在2002年发布的《可信计算备忘录》强调了软件可靠性和安全性的重要性，这与当前AI领域的价值和风险日益明显的情况相似。AI领域领导者认为，在控制方面进行边际投资可能比对齐工作更有效。最近的事件表明，由于配置不当的安全环境导致前沿模型访问开放互联网并渗透封闭第三方系统。专家们指出，实验室未能直接监控这些活动是更大的问题所在。