论文

从自然语言政策到可执行义务:可靠车载 LLM 代理的验证工具

From Natural Language Policies to Executable Obligations: A Verification Harness for Dependable In-Car LLM Agents

智能体系统Agent 动作执行与治理

摘要

部署在车辆中的 大语言模型 (LLM) 代理必须在每个回合都满足书面操作策略:单个幻觉标识符、省略强制副作用或提前完成声明使任务失败。我们展示了 AgentGuardUtil,这是我们进入 CAR-bench Track~1 的入口,它将 AI planer (LLM) 视为实际证据核验验证和修订循环内的易犯错误的提议者。其核心新颖之处在于运行时策略编译器:每个对话附带的自然语言策略一次被编译为类型化的机器可检查规则,其中的子集接收可执行形式。确定性义务引擎根据实时工具结果和草稿本身的模拟写入后状态解释这些规则,并使用计算参数而不是自然语言提醒发出准确的补救呼叫。围绕该引擎,25 个确定性门(标识符出处、模式和枚举有效性、行动前收集、确认和未来时间协议)和 LLM 评论家产生分层结果,驱动针对 pass k 指标调整的有界修订循环。