可修改的设计：流 LLM 代理执行的理论

当前的 LLM 代理在一个隐含但普遍的假设下运行：执行是一个事务——用户提交请求，代理独立工作，只有完成后对话才会恢复。这迫使用户做出二元选择：等待可能不正确的输出，或者中断并丢失所有进度。我们拒绝这种假设，并提出流范例，其中代理执行和用户干预是并发的、交错的进程，共享双向通道。我们通过可逆性分类法将这一范式形式化，将每个代理行为分类为幂等、可逆、可补偿或不可逆，并得出一个核心结论：代理的灵活性受到其可逆性的限制。我们证明，冲突的可补偿动作会带来不可避免的适应成本，而冲突的不可逆动作则无法完全满足规范——这些成本是动作空间的属性，而不是算法的属性。在这一见解的指导下，我们提出了修订吸收器，这是一种基于最早冲突回滚规则的反应式算法，该算法在温和的假设下在结构上是最佳的。使用真实的 LLM 代理在 StreamBench 上进行的实验验证了所有预测：Absorber 与暴力完全重启基线的质量相匹配，同时浪费已完成工作的步骤少了一个数量级，将中间执行修订从死胡同转变为一流的交互。