论文
Web 世界模型(Web World Models)
Web World Models
摘要
语言 Agent 越来越需要能在其中行动、记忆和学习的持久世界。现有方法处于两个极端:传统 web 框架提供由数据库支撑、可靠但固定的上下文,而完全生成的世界模型追求无限环境,却牺牲了可控性与实际工程可行性。在本工作中,我们提出 Web World Model(WWM),一条中间路线:世界状态与“物理”用普通 web 代码实现以保证逻辑一致性,而大型语言模型在此结构化潜在状态之上生成上下文、叙事和高层决策。我们在一个真实的 web 技术栈上构建了一套 WWM,包括以真实地理为依据的无限旅行图鉴、虚构星系探索者、web 规模的百科与叙事世界,以及模拟和游戏式环境。在这些系统中,我们总结出 WWM 的实用设计原则:将代码定义的规则与模型驱动的想象分离,将潜在状态表示为带类型的 web 接口,并利用确定性生成实现无限但结构化的探索。我们的结果表明,web 技术栈本身可以充当世界模型的可扩展基底,实现可控而又开放的环境。项目页面:https://github.com/Princeton-AI2-Lab/Web-World-Models。
