论文

Agent Drift:量化多Agent LLM系统长时间交互中的行为退化

Agent Drift: Quantifying Behavioral Degradation in Multi-Agent LLM Systems Over Extended Interactions

智能体系统上下文与知识记忆Agent任务评测Agent记忆

摘要

多Agent大型语言模型(LLM)系统已成为用于复杂任务分解与协作求解的有力架构,但其长期行为稳定性基本未被考察。本研究引入Agent漂移(agent drift)概念,定义为Agent行为、决策质量和Agent间一致性在长交互序列中的渐进退化。我们提出理解漂移现象的综合性理论框架,给出三种不同的表现形式:语义漂移(逐渐偏离原始意图)、协调漂移(多Agent共识机制的崩溃)和行为漂移(出现非预期策略)。我们提出Agent稳定性指数(ASI),一个在响应一致性、工具使用模式、推理路径稳定性和Agent间一致率等十二个维度上量化漂移的新型复合指标框架。通过基于仿真的分析与理论建模,我们展示不受控的Agent漂移如何导致任务完成准确率大幅下降和人工干预需求增加。我们提出三种缓解策略:情景记忆巩固、漂移感知路由协议和自适应行为锚定。理论分析表明这些方法能在保持系统吞吐量的同时显著减少漂移相关错误。这项工作为生产级Agentic AI系统中监测、度量和缓解Agent漂移奠定了基础方法论,对企业部署可靠性和AI安全研究具有直接意义。