论文

EgoPhys:根据以自我为中心的操作视频估算峰值接触力和机械功

EgoPhys: Estimating Peak Contact Force and Mechanical Work from Egocentric Manipulation Video

应用与实践机器人视觉感知与空间理解

摘要

对铰接物体进行物理接地操纵需要了解接触过程中遇到的最大力以及部件移动时所做的功。峰值接触力和机械功量化了这些互补的方面,但从以自我为中心的视频中估计它们具有挑战性,因为物理交互线索是局部的和间接的。此外,峰值力与短暂的接触事件相关,而机械功取决于整个接触持续时间的力-运动耦合。为了应对这些挑战,我们提出了 EgoPhys,这是一个纯 RGB 框架,包括接触感知空间聚合 (CASA) 和目标特定多专家时间路由 (TMTR)。 CASA 集成了外观和几何特征,以强调交互相关的线索,而 TMTR 则与专门的时间专家一起对语义、事件和运动线索进行建模,并单独路由它们以进行力和功预测。在测试中与 Hoi 分开!数据集,EgoPhys 显着改进了峰值力和机械功的预测,实现了 \(5.205 \pm 0.584\) $N$ 和 $0.894 的 MAE \pm 0.081$ $J$ 分别。