论文

多智能体系统中信息污染的轨迹级分析

Trace-Level Analysis of Information Contamination in Multi-Agent Systems

模型评测鲁棒性、公平性与可信度评测

摘要

对异构工件(PDF、电子表格、幻灯片等)的推理越来越多地发生在结构化智能体工作流中,这些工作流迭代地提取、转换和引用外部信息。在这类工作流中,不确定性不仅仅是输入质量问题:它会改变分解与路由决策、重塑中间状态,并产生性质不同的执行轨迹。我们将不确定性作为受控变量来研究这一现象:向工件派生的表示中注入结构化扰动,在全面日志记录下执行固定工作流,并通过计划、工具调用和中间状态的轨迹分歧来量化污染。在使用三种不同语言模型对32个GAIA任务进行的614次成对运行中,我们发现一种解耦现象:工作流可能大幅分歧却仍恢复出正确答案,也可能在结构上相似却产生错误输出。我们刻画了三种表现类型——静默语义腐化、伴随恢复的行为绕路、复合型结构破坏——及其控制流特征(重路由、延长执行、提前终止)。我们测量了运营成本,并刻画了常用验证护栏为何未能拦截污染。我们的贡献包括:(i)结构化工作流中污染表现的形式化分类;(ii)用于检测和定位智能体交互中污染的基于轨迹的测量框架;(iii)对针对性验证、防御性设计和成本控制具有启示意义的实证证据。