构建高效的多代理系统：减少令牌浪费

部署AI代理的工程团队最终会发现一个令人不安的事实：模型本身并不是最大的开支，隐藏的成本在于重复检索、冗余提示和不必要的工具调用等。虽然单独来看这些架构决策似乎无害，但在大规模生产环境中却会导致延迟、基础设施和云支出的巨大负担。本文探讨了如何在不牺牲输出质量的前提下构建高效的AI系统，并优化从路由到缓存的整个工作流程。通过重新设计工作流而非仅仅缩短提示来提高效率是关键。例如，在多代理工作流中，每个阶段都可能重复检索相同的文档、发出相同的指令和调用相同的模型，从而导致大量不必要的令牌消耗。因此，改进效率需要重新设计工作流程，而不仅仅是压缩提示长度。