论文
AI智能体系统的确定性重放
Deterministic Replay for AI Agent Systems
摘要
把大语言模型(LLM)与外部工具和API耦合的AI智能体系统天然不确定:LLM采样方差、外部API状态、CDN基础设施头与执行环境噪声共同导致任何此前的智能体运行都无法被忠实复现。现有可观测平台记录执行日志,却无法在隔离条件下重现一次运行。我们提出agrepl,一个开发者优先的智能体执行确定性重放CLI框架。agrepl经中间人(MITM)代理在传输层拦截所有外部交互,把它们序列化为结构化执行轨迹,并在零出站网络访问的严格隔离环境中重放。我们形式化智能体执行模型,定义请求键匹配函数K(s)并证明确定性不变式。我们提出噪声感知的diff算法,把HTTP头分歧分类为信号层与噪声层。跨五个工作负载(n=250个重放实例)的实证评估显示重放保真度F=1.0,单步延迟中位数降低98.3%。agrepl以Go实现、单个静态二进制分发、MIT许可。