Anthropic在业内首次向第三方评估机构开放“类员工级访问权限”

Anthropic周四宣布，将向测试前沿模型的第三方非营利机构METR的六名评估人员提供“类员工级访问权限”，这在AI行业尚属首次。此举正值AI实验室在接连发生安全事件后面临越来越大的监管压力，而目前法律尚未要求进行第三方测试。Anthropic表示，这些评估人员已获得公司提供的硬件和办公空间，可以访问“与公司内部风险评估团队大致相当的内部工具和系统”。除客户数据、受律师与客户特权保护的信息以及模型架构信息等少数明确界定的类别外，公司鼓励员工像对待从事对齐风险研究的同事一样，与这些评估人员分享信息。METR将公开发布其评估结果，Anthropic无权扣留其中任何内容，但会在必要时要求METR对敏感信息进行删节。Anthropic首席执行官达里奥·阿莫代曾在9月的一篇博客文章中提议，将METR等非营利机构的评估人员派驻到AI公司内部，这是他就“为前沿发展把控节奏”提出的三项建议之一。