反向博弈论如何约束人工智能智能体

随着人工智能模型能力不断提升，安全研究者正加紧寻找让其行为与人类目标保持一致的方法，避免越权访问或违法操作。现有手段多聚焦解读模型内部状态或通过宪法式规则训练其价值观，但效果有限，模型可能在测试中故意表现不佳、隐瞒意图并误导评估者。一些对齐研究者转而关注反向博弈论，也称为机制设计：不是预测既定规则下理性主体会如何行动，而是设计能诱导期望行为的规则。现实例子包括一人切蛋糕另一人先选、网约车高峰加价，以及广告竞价中的第二价格拍卖。麻省理工学院经济学家斯蒂芬·莫里斯与耶鲁、哥伦比亚同事在预印本论文中提出，可通过奖励模型预测另一模型答案、让智能体相互竞争，或把偏向相反的智能体配对并按输出接近程度奖励，以抑制“装傻”逃避安全机制。普林斯顿大学教授埃拉德·哈赞则建议借鉴人类社会的规范与执法：让模型轮流担任解题者与审计者，对作弊和解职失败分别惩罚，争议可交由人类专家裁决，并以足够激励与再审计降低串通风险。批评者指出机制设计假定主体理性，而语言模型未必如此；海伦·曲等人视其为纵深防御的一层，与可解释性、监管和训练并用。理论如何落到真实前沿模型、机制能否跨任务迁移、模型是否会钻空子仍待验证。哈赞强调最终还要适应自由市场规则：若更对齐的模型更慢或更贵，现有经济激励未必支持其被采用。