feaOS 旁注与此刻
人工智能 来源:MarkTechPost 整理:feaOS 2026-11-17 21:46:39

Sarvam 推出 Token Factory 平台:印度本地推理支持 8 款开源模型

Sarvam 推出 Token Factory 平台:印度本地推理支持 8 款开源模型 图片

Sarvam 正式向公众开放名为 Sarvam Token Factory 的推理平台,该平台依托印度境内的 GPU 集群,提供自研模型及多款开源权重模型的推理服务。开发者可通过统一兼容 OpenAI 的接口访问所有模型,这对印度本土开发团队而言,意味着无需将流量发送至海外云端,即可享受低延迟的 Token 生成服务。此次发布共涵盖 8 款模型,包括 Sarvam 105B、GLM 5.3、DeepSeek V4.1 Flash 1017、Kimi K3.1 Pro 及 Gemma 4 31B 等。平台运行于印度境内的 NVIDIA B200 集群,Sarvam 105B 模型在单副本配置下仅需一台 B200 即可部署,同时支持企业级本地化部署方案。根据 Sarvam 自身测试数据,该平台在孟买节点的首个 Token 生成速度在多数测试案例中表现最快,Kimi K3.1 Pro 的 GPU 每秒生成 Token 数达 6177 个,较 InferenceX 有显著提升。平台文档将模型分为按需付费和预留吞吐量两类,后者需按组织启用,支持模型包括 DeepSeek V4 Pro、Kimi K3.1 Pro、Qwen 3.8 27B 等。

编号 NEWS-21607
分类人工智能 时间2026-11-17 21:46:39 相关10