论文

工具使用型 LLM 智能体中的信息保真度:对 Model Context Protocol 的鞅分析

Information Fidelity in Tool-Using LLM Agents: A Martingale Analysis of the Model Context Protocol

模型评测智能体系统智能体互操作协议评测方法与指标MCP

摘要

随着大语言模型(LLM)驱动的 AI 智能体越来越多地使用外部工具做高风险决策,一个关键的可靠性问题浮现:误差如何在连续的工具调用间传播?我们提出首个用于分析 Model Context Protocol(MCP)智能体误差累积的理论框架,证明累积失真呈线性增长,且高概率偏差以 O(√T) 为界。这一集中性确保了系统行为的可预测性,并排除指数级失效模式。我们开发了结合离散事实匹配与连续语义相似度的混合失真度量,进而对经由连续工具交互的误差传播建立鞅集中界。在 Qwen2-7B、Llama-3-8B 与 Mistral-7B 上的实验验证了理论预测:经验失真跟随线性趋势,偏差始终处于 O(√T) 包络之内。关键发现包括:语义加权可将失真降低 80%,约每 9 步进行一次周期性重新校准(re-grounding)即可实现误差控制。我们将这些集中性保证转化为可信智能体系统的可操作部署原则。

工具使用型 LLM 智能体中的信息保真度:对 Model Context Protocol 的鞅分析
图6:高依赖性压力测试。T=30、λ=0.5 时 β ∈ {0.95, 0.98} 的失真(每种配置 6 条链)。实线:均值 ± 1σ;虚线:校准边界。在 β=0.98 接近临界点 β_B=1 时,经验曲线始终远低于理论包络。