开源模型在Vercel AI网关中占据主导地位

根据Vercel的最新报告，开源模型在AI网关处理的所有令牌中占据了56%的比例，这是首次超过一半的月度令牌量。自去年12月以来，这一比例从7%上升到目前的56%，显示出明显的增长趋势。尽管如此，Anthropic仍然占据着大部分支出份额，达到了64%。Vercel CEO Guillermo Rauch认为这只是开始，因为企业采用开源模型仍处于早期阶段，需要更多工具和平台的支持来适应这种变化。去年推出的AI网关服务旨在让开发者通过单一接口访问多个提供商的模型，从而节省管理单独API密钥、账户和速率限制的时间。该服务位于应用与底层模型提供商之间，负责路由请求并跟踪使用情况和成本，为Vercel提供了客户实际运行模型的重要视角。