开源模型Inkling 2 Mini以循环层用更少文字解题,仍可在笔记本电脑运行

Thinking Machines发布了名为Inkling 2 Mini的开源循环Transformer模型。所谓循环Transformer,是在每个token上多次运行部分层;该模型将其24层中的12层连续运行三次,从而据该公司称能够在不生成更多文本的情况下延长内部推理,用更少的token找到正确答案。这是一个开源混合专家模型,总参数量为264亿,因循环机制每个token实际激活54亿参数。它可处理文本和图像,拥有100万token的上下文窗口,并采用Apache 2.0许可。Inkling 2 Mini在低于1000亿参数的开源模型中,于代理式编程测试上领先,DeepSWE v1.1得分为48.2%,Vals Index v2.2为46.5%。Artificial Analysis在其智力指数上给它打了20分,与Qwen3.8 27B并列,同时成本大约只有后者的六分之一、速度约为后者的四倍;该指数上它还与Qwen3.8 27B的xhigh设置以及Nanbeige4.3-33B并列。由于其激活参数远少,该模型处于帕累托前沿。Inkling 2 Mini可在内存至少32GB的Mac以及英伟达DGX Spark上本地运行。权重和一个循环次数可变的研究版本可从Hugging Face下载,也可在Tinker Playground中试用。
编号 NEWS-21805
分类人工智能
时间2026-11-21 21:29:40
相关10