论文

AgentLogs:打开 GitHub 云代理黑匣子的数据集

AgentLogs: A Dataset for Opening the Black Box of GitHub's Cloud Agent

模型评测基准与评测资源

摘要

基于生成人工智能的软件工程代理正在成为现实世界软件项目的常规贡献者。在 GitHub 上,开发人员可以将任务分配给 Copilot 云代理,该代理会自动探索存储库、编辑代码、运行命令以及打开或审查拉取请求,并生成整个过程中每个步骤的详细日志。虽然现有数据集捕获代理贡献的结果,例如代理编写的拉取请求,但代理产生这些贡献的过程在很大程度上仍未被探索。为了解决这个问题,我们引入了 AgentLogs,这是 GitHub 上的一个大规模代理活动数据集。 AgentLogs 包含我们扫描的 1,812,362 个流行公共存储库中的 35,810 个中的 307,416 个代理任务和 549,239 个代理会话,以及记录每个代理逐步运行的 64,255,174 个会话日志条目,包括提示、中间推理、工具调用(例如文件编辑、git 操作和 GitHub 交互)和词元使用情况。通过公开代理的贡献以及它们的工作方式,AgentLogs 能够对代理软件工程中的代理行为、效率和成本、任务制定、故障模式以及人机协作进行研究。