评估智能体规划-执行流水线中的时序语义缓存与工作流优化

工业资产运营工作流对时延敏感，因为单次用户查询可能需要协调传感器数据、工单、故障模式、预测工具以及领域专用智能体。我们在 AssetOpsBench（AOB）上评估这一问题，这是一个工业智能体基准，其规划-执行流水线暴露出工具发现、LLM 规划、MCP 工具执行与最终总结带来的重复开销。现有的 LLM 缓存技术（如 KV-cache 复用和基于嵌入的语义缓存）是为聊天机器人服务设计的，当输出有效性依赖于时间、资产或传感器参数时便会失效。我们为 AOB 规划-执行流水线提出两个互补的优化层：时序语义缓存，以及一组将基于磁盘的工具发现缓存与依赖感知的并行步骤执行相结合的 MCP 工作流优化。MCP 工作流优化带来了 1.67 倍加速，将中位端到端时延降低约 40.0%，而时序缓存在缓存命中时于基准测试中取得了中位 30.6 倍的加速。除加速之外，我们的结果还揭示了纯语义缓存在参数繁多的工业查询下的一种具体失效模式，并对 MCP 支持的智能体基准中缓存选择如何影响评估正确性进行了批判性分析。