论文

Humanoid-GPT:零样本运动跟踪的缩放数据和结构

Humanoid-GPT: Scaling Data and Structure for Zero-Shot Motion Tracking

模型训练预训练

摘要

我们引入了 Humanoid-GPT,这是一种 GPT 风格的 Transformer,具有因果注意力,在十亿规模的运动语料库上进行训练,用于全身控制。与之前受稀缺数据和敏捷性泛化权衡限制的浅层 MLP 跟踪器不同,Humanoid-GPT 在 2B 帧重定向语料库上进行预训练,该语料库将所有主要动捕数据集与大规模内部录音统一起来。扩展数据和模型容量会产生单个生成 Transformer,它可以跟踪高度动态的行为,同时实现对看不见的运动和控制任务的前所未有的零样本泛化。大量的实验和扩展分析表明,我们的模型建立了一个新的性能前沿,展示了对未见过的任务的强大的零样本泛化能力,同时跟踪高度动态和复杂的运动。