论文

PolicyGuide:从守护单个动作到引导整个工作流的策略合规LLM智能体

PolicyGuide: From Guarding One Action to Guiding the Whole Workflow for Policy-Compliant LLM Agents

智能体系统Agent 动作执行与治理Agent Harness

摘要

客服LLM智能体在代表用户行动时必须遵守组织政策。合规失败源于两类问题:一是禁止性动作,例如批准一项不符合条件的变更;二是遗漏程序性要求,例如身份核验或确认。运行时防护可以介入有风险的动作,但动作级的局部检查无法引导智能体完成多步骤流程。遵循工作流的系统支持规定流程的执行,但主要目标是完成工作流而非保障智能体行为。PolicyGuide 则把每个领域政策编译为工作流图,并在用户轮次边界调用一个主动验证器。验证器基于持久化的图状态对未决请求进行对账,并沿政策合规路径返回针对具体步骤的补救建议。在使用 GPT-5.4 智能体与验证器的 τ²-bench 航空、零售与电信三个领域上,PolicyGuide 将平均 Pass^4 从 0.42 提升到 0.62,其中在流程结构化程度最高的电信领域增益最大(从 0.19 到 0.61)。同一套工作流可迁移到 Claude Sonnet 4.6 与 Gemini 2.5 Pro 智能体。补充评估发现,在对抗性用户下观察到最低的攻击成功率,并在作者自设的工作流级验证中获得最强的程序合规性。