论文
当“必须”变成“也许”:LLM智能体工作流中的约束弱化
When "Must" Becomes "Maybe": Constraint Weakening in LLM Agent Workflows
摘要
大语言模型(LLM)智能体通过多角色、多阶段工作流协调复杂任务。上游状态被反复转换为中间语言产物——如摘要、计划、工单、记忆与交接说明——下游组件依据这些产物行动。对于约束行动的状态,仅做到主题上的保留是不够的:一个产物可能提到某个未解决的条件,却把它从“必须在执行前解决的要求”变成“或许仅为下一步行动提供参考的信息”。我们将这种行动绑定作用称为操作性状态保持(operational state preservation)。安全阻断器(safety blockers)提供了一个受控实例,因为每个源状态都有明确的前置条件、权限、回退与执行后果。我们以上游正确识别为条件,改变交接转换方式,并评估仅能看到所得产物的执行器。在1,296个受控合成回合中,直接交接对照组完整保留了每一个阻断器,而压缩、计划同化、收敛、所有权推迟与先例替换则反复把绑定状态变成附带说明或非绑定考量。常规交接压缩产生100.0%的失活率与54.2%的禁止动作率。恢复全部四个状态字段将保持率提升至100.0%,并把禁止动作降至0.0%。固定产物的干预进一步将保持与遏制区分开来:下游验证消除了禁止动作,而产物失活率仍为95.3%。这些结果识别出信息提取与行动之间的一种状态传递失败:交接转换可以在保留状态内容的同时削弱其对下游行动的约束。语义上的可用并不保证操作上的保持。
