DFRobot推出DX-M1人工智能加速模块：占用一个M.2插槽，5W功耗下提供25 TOPS，售价139美元，但不适合运行大型语言模型

DFRobot推出DX-M1人工智能加速模块，只需占用主板上的一个M.2插槽，售价139美元，面向边缘计算场景，而非依靠高功耗GPU或昂贵的云端API订阅来运行大语言模型。多数用户处理本地计算机视觉或物体检测任务并不需要大型机架式服务器，而这正是该硬件的定位。DX-M1严格用作推理加速器，板载仅有4GB LPDDR5内存，不足以运行700亿甚至270亿参数的人工智能模型。其尺寸与最新的PCIe NVMe Gen 5固态硬盘相当，可提供25 TOPS的INT8算力，功耗仅2瓦至5瓦，适合在移动机器人或紧凑设备上持续部署本地人工智能负载，无需吵闹的散热组件，也不易出现严重的温度降频。该模块完全独立于主机系统内存运行：4GB板载LPDDR5内存专门用于加载神经网络权重，另有1Tbit（128GB）QSPI NAND闪存用于保障固件稳定，并在本地存储已编译模型。通信通过PCIe Gen 3接口完成，随附的DXNN软件开发工具包支持PyTorch、TensorFlow、TensorFlow Lite和ONNX，用户可以编译YOLO或MobileNet等模型。不过，4GB内存远不够用，对边缘神经网络处理器的实际能力应保持现实预期。它专门面向实时视频分析、机器人导航和视觉检测，既不能用来训练机器学习模型，也无法在本地运行700亿参数的大语言模型。其板载存储也不能用作常规操作系统存储，因此插入空闲的M.2插槽意味着无法再用标准NVMe硬盘升级存储。对于运行自动摄像头画面、视觉检测或本地机器人、又不愿意让闲置的工作站GPU消耗大量电力的爱好者和开发者来说，这款售价139美元的M.2加速卡是一种替代选择。