普林斯顿研究员提出循环变压器架构，解码器状态跨令牌传递

一位普林斯顿研究员提出了名为Recurrent Looped Transformer (RLT)的技术报告，该架构通过解码器的最终隐藏状态和层间滑动窗口注意力缓存跨令牌传递信息。RLT结合了因果编码器与递归解码器，其中编码器并行处理令牌并在解码器中保留关键值内存。每个令牌执行96个逻辑块，并且在处理过程中不会重置边界。该架构设计旨在支持无界时间深度的潜在推理，并通过模型硬件协同设计来优化执行效率。此外，RLT还实现了模型-强化学习算法协同设计，使得预训练、策略微调、采样和强化学习回放共享一个状态转换过程。