Harness优化的价值体现在哪里？自我进化 LLM 代理中的本地化收益和预算分配陷阱

越来越多的工作通过改进其工具来改进冻结的 大语言模型 (LLM) 作为代理：围绕模型的文本支架，包括角色、策略、格式规则和控制启发式。现有的反思性快速进化方法通常将这种Harness优化为一根扁线。相反，我们会问优化价值实际上在哪里。我们引入了 HARNESSEVO，它将工具分解为四个可单独演化的槽：角色、任务策略、工具/格式规则和反射/控制。在等预算设置下使用相同的反射优化器，我们将这种分解与留一进和留一出归因配对，以衡量每个槽的贡献。在具有冻结 7B 主干的 ALFWorld 上，HARNESSEVO 并没有显着提高总体二进制成功率，无论是库存Harness还是平弦进化：分别为 0.657 与 0.642 和 0.642。然而，时隙级分析表明，几乎所有有用的优化值都集中在反射/控制时隙中，从而实现了 +0.119 的留一增益。其他插槽单独为空。我们进一步表明，统一的预算分配是有害的：在四个槽位上分配 64 次部署，每个槽位只剩下 16 次，低于优化器的有效搜索底线，导致每个槽位冻结在其空种子处。将预算集中在高信用控制槽上可以恢复损失的增益，使用分割预算的一半达到 0.761。效果是视任务而定的。在 WebShop 上，所有插槽都被冻结，所有方法都平局，这表明真正不存在经常性的、可言传的控制失败，而不是预算匮乏。总的来说，我们的结果表明，利用价值是本地化的，统一的预算分配可能是有害的，并且信用分配应该先于结构化的代理进化。