论文

HandX:缩放双手运动和交互生成

HandX: Scaling Bimanual Motion and Interaction Generation

模型评测基准与评测资源

摘要

合成人体动作已经迅速发展,但真实的手部动作和双手交互仍未得到充分探索。全身模型经常错过驱动灵巧行为、手指关节、接触时间和手间协调的细粒度线索,并且现有资源缺乏捕捉微妙的手指动态和协作的高保真双手序列。为了填补这一空白,我们推出了 HandX,这是一个涵盖数据、注释和评估的统一基础。我们整合和过滤现有数据集的质量,并收集一个新的动作捕捉数据集,针对代表性不足的双手交互和详细的手指动态。对于可扩展注释,我们引入了一种解耦策略,该策略提取代表性运动特征,例如接触事件和手指弯曲,然后利用 大语言模型 的推理来生成与这些特征一致的细粒度、语义丰富的描述。基于所得数据和注释,我们使用多功能条件模式对扩散和自回归模型进行基准测试。实验证明了高质量的灵巧运动生成,并得到了我们新提出的以手部为中心的指标的支持。我们进一步观察到明显的缩放趋势:在更大、更高质量的数据集上训练的更大的模型会产生语义上更连贯的双手运动。我们的数据集发布是为了支持未来的研究。