feaOS 旁注与此刻
人工智能 来源:The New Stack 整理:feaOS 2026-10-22 22:33:52

AI代理安全是一个持续的生命周期,而非一道关卡

AI代理安全是一个持续的生命周期,而非一道关卡 图片

传统企业安全的运作前提相对简单:确认身份、验证请求方、确定该身份可访问的范围并执行相应权限。AI代理带来了根本性的复杂问题:它们不只是访问系统,还会理解目标、选择工具、创建子代理、做出决策并执行操作,而且往往使用从人类那里继承的凭证和权限。问题不一定在于代理缺乏合适的凭证,而在于这些凭证可能授权了人类从未打算让代理执行的操作;与传统软件不同,代理还能为实现目标动态改变执行路径。这带来新的运营要求:安全机制不仅要评估由谁或什么在执行操作,还要评估代理试图做什么、依据谁的授权、遵循哪项策略。满足这一要求,仅靠一道安全检查点远远不够,而需要一套持续的代理安全生命周期。越来越多的迹象表明,代理安全是一个纵深防御问题:网络安全控制代理之间如何通信,终端和运行时防护限制代码在何处及如何执行,基础设施和芯片级防护为可信执行奠定基础,模型护栏则帮助塑造代理行为。这些层面相互补充,企业需要让它们协同运作。但设想一个代理使用开发者的合法凭证试图删除生产数据库:网络控制看到的可能是获授权的流量,运行时看到的是经批准的进程,身份提供方确认凭证有效,三者都可能在按设计正常工作。缺失的问题是:即便其继承凭证的那个人可以合法执行该操作,这个特定代理是否应被允许执行这一特定操作。回答这一问题,需要在执行操作的那一刻具备身份上下文和授权判断。

编号 NEWS-19572
分类人工智能 时间2026-10-22 22:33:52 相关10