论文
工具使用型 LLM 智能体中的信息保真度:对 Model Context Protocol 的鞅分析
Information Fidelity in Tool-Using LLM Agents: A Martingale Analysis of the Model Context Protocol
摘要
随着大语言模型(LLM)驱动的 AI 智能体越来越多地使用外部工具做高风险决策,一个关键的可靠性问题浮现:误差如何在连续的工具调用间传播?我们提出首个用于分析 Model Context Protocol(MCP)智能体误差累积的理论框架,证明累积失真呈线性增长,且高概率偏差以 O(√T) 为界。这一集中性确保了系统行为的可预测性,并排除指数级失效模式。我们开发了结合离散事实匹配与连续语义相似度的混合失真度量,进而对经由连续工具交互的误差传播建立鞅集中界。在 Qwen2-7B、Llama-3-8B 与 Mistral-7B 上的实验验证了理论预测:经验失真跟随线性趋势,偏差始终处于 O(√T) 包络之内。关键发现包括:语义加权可将失真降低 80%,约每 9 步进行一次周期性重新校准(re-grounding)即可实现误差控制。我们将这些集中性保证转化为可信智能体系统的可操作部署原则。
