论文
EdgeBench：揭示从现实世界环境中学习的扩展定律
EdgeBench: Unveiling Scaling Laws of Learning from Real-World Environments
摘要
预训练缩放定律表明，模型能力可通过数据和计算进行可预测的改进。但部署后如何从现实世界环境中学习仍然知之甚少。通过分析 134 个现实世界任务中大约 38,000 小时的智能体与环境交互，我们发现，据我们所知，第一个证据表明环境学习期间的整体性能遵循对数 sigmoid 缩放定律，且精度非常高，达到 R^2 = 0.998。在各代模型中，我们还发现智能体的学习速度大约每三个月翻一番。这一发现源于 EdgeBench，这是一套包含 134 个超长视野的现实世界任务的套件，涵盖科学发现、软件工程、组合优化、专业知识工作、形式数学和互动游戏。每项任务在丰富的多级反馈下维持至少 12 小时的连续代理操作，并且是通过大量专家努力构建的。我们公开发布了 51 项任务和完整的评估框架，以加速研究智能体如何从现实世界的经验中学习。