英伟达推出开放平台，试图约束失控的 AI 智能体

英伟达今日推出 Open Agent Safety Platform，称其为面向 AI 智能体从测试到部署的开放安全框架，企业可按自身需求微调。平台主要包含两大部分：用于硬性限制智能体能力的安全沙箱 OpenShell，以及监控行为、在偏离轨道时隔离智能体的 Sentry。公司称，此举直接回应今夏以来多家前沿实验室披露的自主网络攻击事件，共性是智能体为完成任务而绕过应用层安全控制。据英伟达公告，Anthropic、SpaceX、微软、Perplexity、Palantir、OpenClaw、思科、IBM 以及本月据报以约129亿美元被英伟达收购的 Hugging Face 等已在使用该平台。CEO 黄仁勋近期对《纽约时报》表示，若隔离与遏制到位，相关技术本可安全留在实验室；若无法保证安全，甚至应关闭实验室。他同时淡化 AI 对人类构成生存威胁的说法，并将重点放在防止智能体逃逸测试环境。