论文
自主AI智能体的推理溯源:超越状态检查点与执行轨迹的结构化行为分析
Reasoning Provenance for Autonomous AI Agents: Structured Behavioral Analytics Beyond State Checkpoints and Execution Traces
摘要
随着AI智能体从人工监督的副驾驶转变为自主的平台基础设施,跨大量调查任务分析其推理行为的能力成为一项迫切的基础设施需求。现有的运维工具已有效满足了相邻需求:状态检查点系统实现容错;可观测性平台提供用于调试的执行轨迹;遥测标准保证互操作性。当前系统尚未原生提供的一等公民、模式级原语,是结构化的推理溯源(reasoning provenance)——即规范化、可查询的记录,说明智能体为何选择每个动作、从每次观察中得出什么结论、每个结论如何塑造其策略,以及哪些证据支持其最终裁定。本文提出智能体执行记录(Agent Execution Record, AER),一种结构化推理溯源原语,它在每一步将意图、观察与推理捕获为一等可查询字段,并辅以带修订理由的版本化计划、证据链、带置信分数的结构化裁定以及委派权限链。我们形式化地区分了计算状态持久化与推理溯源,论证后者通常无法从前者忠实地重建,并展示AER如何支持群体级行为分析:推理模式挖掘、置信度校准、跨智能体比较,以及通过模拟回放进行的反事实回归测试。我们提出了一个带有可扩展领域配置文件的领域无关模型、一个参考实现与SDK,并基于在生产级平台化根因分析智能体上的初步部署,概述了一种评估方法论。