前研究员考克森称，Anthropic已能用原先一小部分算力重训Mythos

前OpenAI与Anthropic研究员雅各布·考克森曾将人工智能风险带入公众视野。他表示，Anthropic为首次公开募股路演发布的一张幻灯片，是他仅任职约四个月便离职的关键原因。该图展示了Anthropic训练模型所需算力随时间的变化，坐标轴经过压缩，以至于10倍与100倍的增幅看起来差别不大，但曲线依然陡峭上升。考克森认为，这表明算法效率不仅在快速提升，而且在加速提升。他写道，这是一张疯狂的图，他很惊讶他们把它公开了。他认为，春季带来重大能力跃升的Mythos模型，正是这一加速趋势的一部分：Mythos不是一次性的偏离，而是超指数曲线上的一个点，他们已经能用原先所需算力的一小部分重新训练Mythos。这张路演幻灯片展示的是代码领域预训练算力乘数随时间的变化，纵轴为对数坐标。考克森指出，从2024年7月到2026年10月的陡峭攀升，指向超指数级的算法进步。Anthropic则注明，这些数据点基于内部估算，仅供示意。考克森还表示，算法改进即将被自动化，因此他希望明年暂停前沿模型开发，以便竞争对手赶上。他写道，暂停将使人类水平的智能商品化，受损的只会是OpenAI和Anthropic。考克森此前在OpenAI训练人工智能模型，最近任职于Anthropic，并在九月因公开警告先进人工智能系统的风险而受到广泛关注，业内其他人士也有类似表态。他们的担忧之一是，先进且能自我改进的人工智能可能失控。