AgentLTL：用于测量、执行和训练使用工具的 LLM 代理程序合规性的跟踪验证框架

使用工具的 LLM 代理通常由最终答案的正确性或 LLM 法官进行评估。两者都没有说明答案是如何产生的。在安全关键的环境中，程序本身就是正确性的一部分。在本文中，我们介绍了 AgentLTL，这是一种源自一阶线性时序逻辑 (FO-LTL) 的语言，用于表达代理跟踪的过程规则。它会产生确定性的、无需评判的合规性评分。在此框架中，单一规范驱动两种用途。第一个是利用：约束对完成的跟踪进行评分，或者在执行之前通过在线检查每个前缀来控制工具调用。第二个是微调：分数作为密集奖励。在涵盖排序、分支、迭代和基础的基准测试中，阻止和警告利用提高了七个模型中五个模型的合规性。使用相同的奖励进行微调，可以使保留模式（包括看不见的工具名称别名）的准确性和合规性提高 +38 和 +17.5 个百分点。这些发现与获取程序结构而不是记住表面工具名称和程序的模型是一致的。