论文

ProMAS:利用马尔可夫转移动力学对多智能体系统进行主动错误预测

ProMAS: Proactive Error Forecasting for Multi-Agent Systems Using Markov Transition Dynamics

AI 基础设施可观测性

摘要

将大语言模型集成到多智能体系统(MAS)中,使其能够通过协作推理解决复杂的长时程任务。然而,这种集体智能本质上是脆弱的:单个逻辑谬误就可能迅速传播并导致系统级失败。目前大多数研究依赖事后失败分析,因而阻碍了实时干预。为解决这一问题,我们提出 PROMAS,一个利用马尔可夫转移进行预测性错误分析的主动式框架。PROMAS 提取因果增量特征(Causal Delta Features)以捕捉语义位移,将其映射到量化的向量马尔可夫空间,把推理建模为概率性转移。通过集成带跳变检测的主动预测头,该方法经由风险加速度而非静态阈值来定位错误。在 Who&When 基准上,PROMAS 在仅处理 27% 推理日志的情况下取得 22.97% 的步骤级准确率。这一性能可与 MASC 等反应式监控器相媲美,同时将数据开销降低 73%。尽管相比事后方法该策略存在准确率上的取舍,它显著改善了干预时延,在诊断精度与自主推理的实时需求之间取得平衡。

ProMAS:利用马尔可夫转移动力学对多智能体系统进行主动错误预测:论文配图
图 1:ProMAS 概述。该架构分为两个耦合组件:(左)主动推理:对话历史 Ht−1H_{t-1} 被编码为潜在状态 st−1s_{t-1},以预测下一个动作的集群分布和转移风险 RtR_{t}。跳转检测机制通过监控风险突变来识别逻辑违规。 (右)多阶段训练:(i)因果流形学习通过三元组损失对齐语义位移特征 Δt=st−st−1\Delta_{t}=s_{t}-s_{t-1} ; (ii) 转移建模根据成功和失败的轨迹构建离散马尔可夫矩阵; (iii) 主动头部优化训练模型来预测未来的行动集群。