大模型新品类登场：专做决策的模型

大语言模型以输出语言为主，但人们经常让它做的并不是写文章或回复聊天，而是作出某种判断或分类：给模型提供输入，再要求它以评分、是非回答或最匹配类别等方式对内容进行归类。几周前发布的一款名为Jev的新型模型，速度极快、成本极低，专注于这一决策角色。它连一句话都写不出来，却能以非常快的速度完成分类和归类。Jev的工作方式是：仍然接收文本输入，但只输出浮点数，这些数字就是用户指定的是非类问题、选项列表和评分类请求的“答案”。西蒙·威利森对Jev的功能以及这类新模型的有趣之处作了简明总结。说这一思路已经流行起来，实在是过于保守的说法。人们正纷纷打造自己的决策类模型并开展各种实验，Kev和Nimble就是其中两个例子。Nimble最近已被Ollama列为支持的模型，体积小到可以较为轻松地在本地运行。如果这类本地AI模型正是你实现某个想法所缺的那一环，不妨与大家分享。