论文
黑暗中演化智能体：经自我预回顾的测试架优化
Evolving Agents in the Dark: Retrospective Harness Optimization via Self-Preference
摘要
人工智能代理依靠一系列技能、工具和工作流程来解决复杂的问题。不断改进这种Harness对于适应新任务至关重要。然而，现有的优化方法通常需要真实验证集，但在实际部署环境中很难获取此类标记数据。为了解决这个问题，我们引入了回顾性Harness优化（RHO），这是一种自我监督方法，仅使用过去的轨迹来优化代理Harness。具体来说，RHO 从过去的轨迹中选择一系列具有挑战性的任务核心，并并行地解决它们。代理使用自我验证和自我一致性来分析这些部署，然后生成候选工具更新并通过其自己的成对自我偏好选择最有效的工具。我们跨三个不同的领域评估 RHO，涵盖软件工程、技术工作和知识工作。值得注意的是，单轮优化将 SWE-Bench Pro 的通过率从 59% 提高到 78%，无需任何外部评分。此外，我们的分析表明，RHO 有效地针对先前的故障模式。因此，优化后的Harness会改变代理的行为模式，并在长视野会话期间保持更高的准确性。
