企业AI代理治理：存在的差距

企业在缺乏必要管理控制的情况下部署了AI代理，现在正努力追赶自身标准。调查显示，在五个控制层中，57%至68%的企业计划在未来12个月内更换或增加供应商，并且约三分之一的企业预计在本季度内进行调整。企业需要建立身份验证、评估、成本监控、上下文层和编排等五项控制措施才能信任AI代理。然而，大多数部署的“代理”实际上是聊天机器人，只有少数能够独立完成多步骤工作。此外，许多企业在没有人工审查的情况下允许代理根据自动化评估结果推送代码或系统更改，这导致了安全问题的发生率较高。企业需要严格追踪AI计算的实际成本和回报，并确保每个代理都有自己的身份权限。调查显示，在部署的“代理”中，71%的企业表示只有四分之一或更少的“代理”能够独立完成多步骤工作；81%的受访者推荐或决定公司的人工智能采购决策。此外，69%的企业允许至少一些代理共享凭证，这导致了较高的安全事件发生率。企业需要确保每个代理都有自己的身份权限，并且在移除人工审查之前应测试评估结果与生产环境的一致性。