METR警告:人工智能进步快于专家可靠评估新系统安全性的速度

人工智能研究组织METR警告称,人工智能模型在人工智能研究任务上进步迅速,也越来越难以衡量。该组织认为,现有公开数据不足以排除未来几年人工智能研究出现急剧加速的可能。它警告,这可能使人类无法“有意义地理解、评估并应对新人工智能系统带来的灾难性风险”。METR发现,在有直接反馈、定义明确的编码和计算任务上,这些模型多数时候已经胜过有经验的人类专业人士,不过尚未超越由顶尖专家组成的大团队。对于耗时更长的人类任务,模型能够处理的任务时长每3.6个月翻一番。对METR数据做简单外推显示,到2027年7月,模型在最长的200小时任务上成功率可达50%。METR的分析显示,领先人工智能模型的能力持续上升,一直到Opus 5.5和GPT-6 Astra。该组织称,这些系统在缺乏即时反馈、需要真正判断力的开放式问题上仍然吃力,在难以为训练复现的情境中也表现不佳。METR还警告,常见且易于运行的测试可能高估模型在真实使用中的表现,因为开发者是在非常相似的测试环境中训练这些模型。
编号 NEWS-21884
分类人工智能
时间2026-11-22 23:14:53
相关10