防止AI编码代理泄露机密信息

AI编码代理在软件开发中扮演重要角色，能够自动调查错误、追踪依赖关系、重构服务和提出补丁。然而，这些代理在收集上下文信息时可能会无意中接触到机密信息，如API密钥、数据库凭证和令牌等。这使得防止机密信息泄露成为安全控制的重要组成部分。开发人员需要警惕，避免在本地文件中存储敏感信息，因为这些信息可能被AI代理读取并传递到外部系统，从而导致机密信息泄露。例如，开发人员在调试身份验证失败时可能将包含令牌的失败API调用粘贴到聊天窗口中。更严重的泄露途径是静默的。一个被分配了理解项目任务的代理可能会检查工作目录中的文件，包括被忽略的.env文件、云凭证配置文件、SSH配置或敏感的应用日志。一旦机密信息成为上下文的一部分，它可能会通过模型提供商的日志、网关遥测、提示历史记录或调试记录等系统传递，这些系统可能不在组织的直接控制之下。因此，旋转凭证虽然必要，但并不能消除已经存在于这些系统中的副本。这改变了机密信息泄露的实际定义，问题不再局限于存储库中的内容，还包括自主工具在操作开发人员机器时读取和转发的信息。