论文
FutureWorld:用于训练具有现实世界结果奖励的预测代理的实时环境
FutureWorld: A Live Environment for Training Predictive Agents with Real-World Outcome Rewards
摘要
实时未来预测是指在现实世界事件发生之前对其进行预测的任务。人们越来越多地使用基于大语言模型的代理系统来研究此任务,这对于构建能够不断从现实世界中学习的代理非常重要。正如交互式环境通常会推动智能体的进步一样,推进实时未来预测自然会促使人们将其视为学习环境。先前的工作从几个不同的部分探索了未来的预测,但通常没有将其构建为一个统一的学习环境。这项任务对学习很有吸引力,因为它可以提供大量基于不同现实世界事件的预测问题,同时防止答案泄漏。为了利用实时未来预测的优势,我们推出了 FutureWorld,这是一个实时代理强化学习环境,它关闭了预测、结果实现和参数更新之间的训练循环。在我们的环境中,我们采用三个开源基础模型并连续几天训练它们。结果表明,培训是有效的。此外,我们根据环境构建每日基准,并在其上评估多个前沿代理,为当前代理系统建立性能基线。
