论文
GPC:用于可转移电机控制的大规模生成预训练
GPC: Large-Scale Generative Pretraining for Transferable Motor Control
摘要
开发能够以自然且逼真的方式完成各种任务的控制器是实现基于物理的角色动画实际应用的关键挑战。在这项工作中,我们引入了生成预训练控制器(GPC),它利用标记化和下一个标记建模从大规模运动数据集创建通用、可重用的生成控制器。我们的框架利用端到端强化学习来联合优化“运动词汇”,通过有限标量量化(FSQ)建模,以及相应的控制策略,可以将离散代码映射到基于物理的控制。学习“密码本”后,通过训练 GPT 式自回归 Transformer 来对这个大词汇表的底层结构进行建模,从而形成一个强大的生成控制器,该控制器通过执行下一个词元预测来生成物理模拟角色的控制。一旦生成控制器经过训练,我们就提出了一套适应技术,用于针对新的下游任务微调控制器。与之前的标记化方法相比,我们提出的框架极大地简化了训练过程,并且在再现大量运动剪辑的语料库方面实现了 99.98% 的成功率。生成控制器表现出各种自然涌现行为,例如对扰动的响应行为和跌倒后的恢复行为。这将为各种下游应用带来高度稳健的通用控制器。