Anthropic 称其正接近递归自我改进

据 TechCrunch 注意到的最新修订版 S-1/A 文件，Anthropic 在周一公布的招股相关文件中称，其正接近某种形式的递归自我改进（RSI）。该文件风险因素部分新增警示：递归自我改进若属实，意味着计算机系统可自主改进自身，改进后的版本再继续改进，如此循环。当代人工智能语境下的 RSI 概念仍较模糊，部分细节近年在 Lesswrong 等理性主义与有效利他主义相关线上社群中被讨论；它似乎由埃利泽·尤德考斯基较早提出的「种子 AI」概念演变而来。Anthropic 向规避风险的投资者披露——或向外界宣告——RSI 可能「即将」到来。公司十月二十六日版本的文件已有关于「人工智能驱动加速」速率的章节，此次新增内容称：基于内部估计及对未来模型而非当前模型的预期，公司可能即将达到其《负责任扩展政策》中「归因于人工智能的显著加速进展」的定义。文件明确将能改进自身进展的人工智能列为该政策覆盖的领域之一，并提到所谓「递归自我改进」。Anthropic 更倾向使用「归因于人工智能的显著加速进展」表述；按政策，成功门槛更清晰：改进速率翻倍，且该翻倍可合理归因于人工智能。作者解读政策认为，若此类加速出现，公司将对自己设定极高的灾难防范标准，包括探索大胆乃至非常规手段以实现前所未有的安全水平，并对内部活动形成其所谓「一切尽在眼中」的全面可见性，同时声称红队能力将强到不再依赖漏洞赏金。若这一切「即将」发生，作者认为 Anthropic 须尽快推进这些雄心勃勃的缓解措施。