论文
EnvPilot:用于软件环境设置的体验增强代理的系统设计和评估
EnvPilot: Systematic Design and Evaluation of an Experience-Augmented Agent for Software Environment Setup
摘要
环境设置是软件工程中一项关键而复杂的任务,在很大程度上依赖于专家知识。现有的自动化环境设置方法缺乏从过去的执行轨迹中积累经验并随着时间的推移而发展的能力。因此,它们的性能受到限制,因为它们经常执行冗余探索,忽略过去有用的解决方案,并且无法在不同的软件生态系统中进行泛化。我们提出了 EnvPilot 的系统设计和实证验证,EnvPilot 是一种经验增强代理,可将轨迹衍生的经验重用用于软件环境设置。 EnvPilot 维护可扩展的轨迹衍生内存 (TDM),以 667 个高质量体验进行初始化。它系统地将历史执行轨迹中的隐性知识转化为结构化经验,并通过上下文感知检索机制检索任务执行过程中最相关的指导。这使得 EnvPilot 能够结合多种经过验证的设置策略,提供比仅依赖静态项目文件或 Web 检索的方法更精确和详细的指导。为了评估 EnvPilot,我们构建了 AES-Bench,这是一个跨 9 种编程语言的 112 个真实 GitHub 实例的多语言基准。实验表明,EnvPilot 达到了新的最先进水平 (SOTA),Pass@1 成功率为 75.00%,同时降低了推理成本。我们的实证研究表明,结构化经验表示和上下文感知检索机制都是必不可少的。