论文

4D-HOF:以流匹配重建手与对象的四维交互

4D-HOF: Hand-Object Flow Matching for Feed-Forward 4D Interaction Reconstruction

应用与实践视觉感知与空间理解

摘要

现有的 4D 手部物体重建方法通常依赖于成本高昂的每个序列优化,而生成方法通常从随机噪声中合成交互,这可能导致交互预测不稳定。我们引入了 4D-HOF,这是一种前馈框架,可以根据视觉基础模型生成的粗略但信息丰富的估计来重建 4D 手部物体交互。具体来说,我们学习了一种条件流匹配模型,该模型将基础模型派生的手部对象状态传输到交互流形,从而允许模型以前馈方式纠正平移、旋转和对齐中的错误。我们的生成公式的一个关键优势是它自然地能够在运输过程中实现测试时指导。我们没有在重建后应用单独的事后优化,而是使用物理交互约束和观察到的二维证据直接引导不断演变的生成状态,从而允许重建作为生成过程本身的一部分进行细化。通过训练在不同数据集上的生成模型,4D-HOF 可以稳健地推广到具有挑战性的野外场景。域外基准测试表明 4D-HOF 实现了最先进的性能,产生更稳定、更准确的 4D 手部物体重建。

4D-HOF:以流匹配重建手与对象的四维交互:论文原图
图 1:4D 手-物体流匹配 (4D-HOF)。给定手与看不见的物体交互的单眼视频,我们学习一种流匹配模型,以实现准确且高效的 4D 手与物体交互重建。我们的方法概括了不同且具有挑战性的场景,包括模糊深度(耳机)、遮挡(水壶)、复杂的铰接手部姿势(酒吧)和大型物体旋转(相机)。此外,由于我们的前馈设计,4D-HOF 比之前基于优化的方法要快得多。