ReCast：为LLM Agent失败归因学习步骤表征

在基于 LLM 的代理系统中，失败可能源于早期步骤，其影响通过后续交互传播，使得其根源难以识别。为了追溯此类故障的根源，故障归因被制定为识别导致故障的最早步骤的任务。最近的方法利用 LLM 内部信号进行故障归因，通常使用隐藏状态作为步骤表示。因此，我们进行了一项实证研究，以评估这些表示如何有效地区分根本原因步骤与其他步骤并找到有限的分离。受这一观察的启发，我们提出了 ReCast，一种步骤表示学习方法，可将隐藏状态从冻结的 LLM 转换为面向归因的步骤表示。 ReCast 首先选择与归因相关的层，然后构建互补模式和偏差特征，最后通过经过对比和排名目标训练的编码器学习上下文步骤表示。我们还介绍了 ReCast-2K，一个失败训练数据集 归因。 ReCast 在四个基准测试中实现了最佳 Hit@1，在 Who&When 算法和 Handcrafted 上分别超出最强基线 5.65 和 9.19 个百分点。代码可在 https://anonymous.4open.science/r/ReCast-5FB6 获取。