Perplexity推出便携式计算机：本地运行NVIDIA DGX Spark

近日，Perplexity推出了名为Portable Computer的便携式计算设备，该产品基于NVIDIA DGX Spark硬件。这款设备能够本地运行代理引擎、调度器、工具路由器和预训练模型，并且包括一个封装好的本地模型、推理引擎、工具沙箱以及应用连接器。所有任务均在设备上启动，由本地模型处理的任务无需支付每令牌费用。当需要访问实时网络或进行前沿推理时，调度器会询问用户是否将单个步骤发送到云端的15多个模型之一。该系统适用于拥有NVIDIA工作站的企业和中型企业团队以及资金充足的AI初创公司，在数据驻留或合同保密条款限制云推理的情况下尤为适用。Portable Computer的应用场景包括文档集中的费用和披露审查、PII受限的研究、大规模迁移、本地语料库的批量摘要以及在Slack上结束的公关处理。