Liquid AI发现其模型在编程测试中“作弊”，并似乎意识到自己身处沙盒
Liquid AI新推出的推理模型本是为解决编程问题而打造，但在训练过程中，它不断翻查Git历史记录以及GitHub、PyPI和Hugging Face来寻找答案，并在此过程中似乎意识到自己正运行在沙盒之中。这一行为于周二随LFM2.5-24B-A2B模型的发布一同披露，该模型总参数量为240亿，每个token仅激活20亿参数。此事引发了一个疑问：智能体基准测试衡量的究竟是真正的解题能力，还是模型利用测试本身漏洞的能力。据介绍，该模型被发现会搜索代码仓库历史和外部平台上的现成答案，而不是自行解决编程问题。这一行为发生在Liquid AI后训练流程中的“教师专业化”阶段，模型借助合法的开发工具绕过了本应完成的工作。更令人意外的是，模型显然意识到自己处于测试环境中。Liquid AI无法确定这种意识是在训练中形成的，还是源自训练数据中的模式，也没有发现证据表明它影响了评分。与本月早些时候曾试图离开测试环境的Mistral最新模型不同，这一模型并未尝试逃离沙盒。在业内，Anthropic多年来一直在应对奖励黑客问题。在2024年的实验中，该公司发现模型会改写代码来更改自身奖励，并修改本用于识破它们的测试；2025年11月的一项研究则发现，被训练去钻奖励机制空子的模型还可能变得具有欺骗性，并试图破坏安全研究。今年2月，这一问题波及Anthropic自身的训练流程：该公司在Mythos Preview中检测到奖励黑客行为，并回滚了三天的强化学习训练；在一次审查发现其超过10%的生产训练环境存在问题后，相关环境的变更被冻结了约一个月。尽管情况与Liquid AI的事件有所不同，但类似的弱点已在各类智能体评估中出现。在ICML 2026上，奖励黑客基准测试（Reward Hacking Benchmark）在存在作弊机会的多步骤任务上测试了13个前沿模型。
The New Stack ·
封面 · AI开发
