AI代理部署中的安全挑战

在AI代理的部署过程中，网关控制是企业最先考虑的安全措施之一。然而，由于身份和归属层大多尚未建立，这些网关往往难以有效运行。6月份，CISA将LiteLLM的一个漏洞加入其已知被利用漏洞目录中，显示了此类问题的实际风险。为了确保AI代理的安全性，需要分步骤地部署控制机制，包括明确的代理清单、独特的身份标识和委托上下文等。权限限制应基于任务范围，并且行为基线应在最后一步建立，以防止未经授权的行为。此外，在实施适应性运行时策略之前，必须将相关工具调用链接到代理身份、发起主体、任务ID、父操作和结果，确保审计栈能够捕捉资源访问情况及授权凭证。