论文
TRACE：通过 LLM 代理的自适应跨步证据聚合进行轨迹推理
TRACE: Trajectory Reasoning through Adaptive Cross-Step Evidence Aggregation for LLM Agents
摘要
自主 LLM 代理可以通过一系列单独的良性操作来追踪隐藏的恶意目标，从而使使用标准轨迹级监控难以检测到破坏行为。现有的方法要么在一次传递中评估完整的轨迹，要么将它们划分为独立评分的窗口，限制了它们跨时间遥远的动作连接证据的能力。我们提出 TRACE，这是一种用于长期 LLM 代理轨迹的监控框架。 TRACE 通过 TIJ（分类-检查-判断）循环进行操作，该循环识别高信号区域，执行有针对性的检查，同时维护推理步骤中积累的证据，并综合轨迹级判决。我们根据最新的基线评估了 SHADE-Arena 十个任务领域的 TRACE。 TRACE 的总 F1 为 0.713，召回率为 0.844，在需要远程证据链接的任务上收益最大。