返回研究文献库

物体位姿估计 · 2024 · 3DV · CCF 未收录

ContactArt: Learning 3D Interaction Priors for Category-level Articulated Object and Hand Poses Estimation

ContactArt 从人类 teleoperation 仿真数据学习部件排列 discriminator 和接触 diffusion prior,并以二者约束真实图像中的类别级 articulated object 与 hand pose。

研究方向

物体位姿估计

任务层级

Category-level

物体设定

Unseen objects

输入模态

RGB hand-object observationssimulated interaction trajectories

关键依赖

articulated object part modelsinitial hand and object estimatorscategory labeltest-time contact / articulation optimization
完整论文元数据 作者、单位、研究方向、数据集、指标、方法标签和阅读状态 展开
作者
Zehao Zhu, Jiashun Wang, Yuzhe Qin, Deqing Sun, Varun Jampani, Xiaolong Wang
作者单位
The University of Texas at Austin / Carnegie Mellon University / UC San Diego / Google Research
会议 / 期刊
会议 · 3DV · CCF 未收录
研究方向
物体位姿估计
开源状态
未开源 / 未整理
阅读状态
粗读:已生成 精读:已生成
任务设定
Category-level · Unseen objects
评估指标
Rotation Error Translation Error

论文原始写法:5°5cm / mIoU / rotation error / translation error / hand MPJPE

关键依赖
articulated object part modelsinitial hand and object estimatorscategory labeltest-time contact / articulation optimization

Reading Notes

粗读 / 精读

已生成 src/paper-notes/contactart-3dv2024/coarse.md

论文粗读笔记

用于快速判断论文定位、问题设定、核心方法、实验结论和是否值得精读。

ContactArt 粗读

一句话结论

ContactArt 用手机驱动的仿真 teleoperation 低成本采集手—关节物体交互,再把仿真中容易获得的“部件排列”和“接触区域”压缩成 3D priors,分别约束真实图像中的 articulated object pose 与 hand pose。

数据与方法

人在 iPhone 前运动手,系统映射到 MANO hand 并在物理模拟器里操作 laptop、trashcan、safe、cabinet 等可动物体。仿真直接读出部件 pose 和接触点。训练时:

  • articulation discriminator 判断预测部件排列是否像真实交互分布;
  • conditional diffusion model 生成对象表面的接触区域;
  • 测试时用结构 prior 优化部件 pose,用接触 prior 优化手 pose。
ContactArt 从仿真数据采集、先验训练到真实测试优化的流程
外观 sim-to-real 差距没有被直接消除;论文选择迁移更稳定的三维结构和接触关系。来源:原论文 Figure 3;版权归原作者及 3DV 2024 出版方所有,本站仅作学术解读。

结果

HOI4D 四类平均 5°5cm 从 CAPTRA 的 6.05 提到 ContactArt-only 的 7.69;用 HOI4D warm-start/finetune 后为 35.99。BMVC laptop 为 4.70,RBO microwave 为 57.66。手 pose 的 contact diffusion 也降低 MPJPE/接触误差。

ContactArt 在 HOI4D 上的关节物体位姿量化与定性结果
ContactArt-only 的绝对 5°5cm 仍低,最大收益来自合成预训练后用少量真实数据微调。来源:原论文 Table 2、Figure 4;版权归原作者及 3DV 2024 出版方所有,本站仅作学术解读。

边界

这是类别级 articulated hand-object pose,不是单刚体 6D benchmark。方法需要物体类别、部件模型/规范空间与初始 estimator;contact prior 改善优化但不会替代前端检测和几何初始化。

Related Papers

相关论文