论文

SimWorld Studio:用演化编码智能体自动生成具身智能体学习环境

SimWorld Studio: Automatic Environment Generation with Evolving Coding Agent for Embodied Agent Learning

智能体系统Agent 环境交互

摘要

得益于用于编码、网络导航和计算机使用的可扩展沙箱,基于 LLM/VLM 的数字代理取得了快速发展,这些沙箱提供了丰富的交互式训练场地。相比之下,实体智能体仍然缺乏丰富、多样且自动生成的用于交互式学习的 3D 环境。现有的实体模拟器依赖于手动制作的场景或程序模板,而最近基于 LLM 的 3D 生成系统主要生成静态场景,而不是具有可验证任务和标准学习界面的可部署环境。我们介绍 SimWorld Studio,这是一个基于虚幻引擎 5 构建的开源平台,用于生成不断发展的具体学习环境。其核心是 SimCoder,这是一种工具/技能增强型编码代理,可以编写和执行引擎级代码,以根据语言/图像指令构建物理基础的 3D 世界。 SimCoder 通过使用验证者反馈(例如编译错误、物理检查、VLM 批评)来修改环境并自动向其库中添加可重用工具和技能,从而实现自我进化。生成的世界将导出为 Gym 风格的环境,用于具体代理学习。 SimWorld Studio 进一步实现了环境生成和实体学习之间的协同进化:智能体性能反馈指导 SimCoder 生成接近学习者能力前沿的自适应课程,以便随着实体智能体的改进,环境变得越来越具有挑战性。关于具身导航的三个案例研究表明,自进化提高了生成可靠性,生成的环境显着提高了具身代理的性能,可推广到未见过的基准,而共同进化比固定环境学习的成功率提高了 18 点,比未经训练的代理提高了 40 点。

SimWorld Studio:用演化编码智能体自动生成具身智能体学习环境:论文配图
图 2:SimCoder 通过自动自我演化循环将用户提示转变为交互式环境:它编写工具、创建可重用技能、在迭代中重用它们,并根据验证者反馈完善场景。基于 NavMesh 的工具用于生成可解决的导航任务。 SimCoder 进一步使用实体代理反馈来自主适应环境难度并与实体代理共同进化(紫色循环)。