返回研究文献库

物体位姿估计 · 2026 · ECCV · CCF B

MemPose: Category-level Object Pose Estimation with Memory

MemPose 在 AG-Pose 风格的 RGB-D 类别级 9DoF pipeline 中加入按类别维护、长度 96 的外部 feature memory:历史实例的 pooled local keypoint features 通过带 Gumbel 扰动的 similarity merge 更新,当前关键点用 attention 读取并经 gate 融合。冻结 memory 的主结果在 REAL275 达到 IoU75 81.0 / 5°2 cm 59.9,在 HouseCat6D 达到 IoU50 81.5 / IoU75 56.4,在 Wild6D 达到 IoU75 46.2;模型为 225M、33 FPS,而 AG-Pose 为 223M、35 FPS。测试时更新可进一步把 REAL275 的 5°2 cm 提高到 63.6,但仅属附加实验,尚未建立完整 stream-order 与防污染协议。

研究方向

物体位姿估计

任务层级

Category-level

物体设定

Unseen objects

输入模态

cropped object RGBsegmented RGB-D point cloudDINOv2 image featuresPointNet++ geometric featurescategory-specific memory tokens

关键依赖

predefined object category label for memory routinginstance mask from Mask R-CNN or an equivalent segmentordepth and camera intrinsics for point-cloud back-projectioncategory-level 9DoF and NOCS supervision during trainingtraining-time memory buffers saved with the model checkpoint
完整论文元数据 作者、单位、研究方向、数据集、指标、方法标签和阅读状态 展开
作者
Xiao Lin, Minghao Zhu, Yun Peng, Liuyi Wang, Qiyi Wang, Chengju Liu, Qijun Chen
作者单位
Tongji University / State Key Laboratory of Autonomous Intelligent Unmanned Systems
会议 / 期刊
会议 · ECCV · CCF B
研究方向
物体位姿估计
开源状态
未开源 / 未整理
阅读状态
粗读:已生成 精读:已生成
任务设定
Category-level · Unseen objects
评估指标
3D IoU n° mcm Rotation Error Translation Error

论文原始写法:3D IoU mAP / 5° 2cm / 5° 5cm / 10° 2cm / 10° 5cm

关键依赖
predefined object category label for memory routinginstance mask from Mask R-CNN or an equivalent segmentordepth and camera intrinsics for point-cloud back-projectioncategory-level 9DoF and NOCS supervision during trainingtraining-time memory buffers saved with the model checkpoint

Reading Notes

粗读 / 精读

已生成 src/paper-notes/mempose-eccv2026/coarse.md

论文粗读笔记

用于快速判断论文定位、问题设定、核心方法、实验结论和是否值得精读。

论文粗读笔记:MemPose: Category-level Object Pose Estimation with Memory

1. 基本信息

  • 标题:MemPose: Category-level Object Pose Estimation with Memory
  • 作者:Xiao Lin、Minghao Zhu、Yun Peng、Liuyi Wang、Qiyi Wang、Chengju Liu、Qijun Chen
  • 机构:Tongji University、State Key Laboratory of Autonomous Intelligent Unmanned Systems
  • 年份 / 会议:ECCV 2026 Poster
  • 论文链接:arXiv:2607.04930
  • ECCV 条目:官方 Poster 页面
  • 代码 / 项目页:截至本站核验时,论文、arXiv 与 ECCV 页面均未给出公开代码或项目页
  • 阅读模式:粗读

2. 一句话定位

MemPose 在 AG-Pose 风格的 RGB-D 类别级 9DoF pose pipeline 中加入按类别维护的外部 feature memory:它把历史实例的局部关键点特征压缩为长度 96 的 buffer,用带 Gumbel 扰动的相似度合并更新,以 attention 读取并通过 gate 融合到当前关键点表示;主结果采用训练后冻结的 memory,在 REAL275、CAMERA25、HouseCat6D 与 Wild6D 上取得小幅到中等提升。

核心判断

MemPose 最值得关注的是把“类别知识”从固定 shape prior 或全写入网络参数,改成可读写的非参数 feature prototypes。这个思路简单、增量参数少,也确实由跨数据集结果和多组 ablation 支撑。

但论文标题里的 Memory 容易让人误以为它在部署中持续学习。事实上,所有主结果都使用训练完成后冻结的 memory buffer;测试时更新只在 REAL275 的附加实验中报告。因而标准 MemPose 更像“带外部类别原型库的前馈 pose 网络”,不是已经完成长期记忆、持续学习或无监督在线适应的系统。

2.1 论文图表导读

图表重点支持的结论不能直接推出
Figure 2RGB / point cloud 双流、关键点、memory 写入 / 读取、gate fusion、NOCS 与 pose head外部 memory 如何插入现有 category-level pose pipelinememory 中保存的是显式 CAD 或可解释完整几何
Table 1REAL275 与 HouseCat6D 主结果在相同 benchmark 协议下整体优于已列 prior-free baseline所有指标和所有输入设定都统一,或提升完全来自 memory
Table 5更新时机、merge、retrieval size 与 fusion多个 memory 设计选择都有受控对照每个子模块都带来很大独立增益
Tables 7–8参数 / 速度、等参数 MLP、冻结 / 更新 memory增益不只是参数变多,且在线更新有额外潜力33 FPS 高于 35 FPS,或更新测试 memory 没有顺序 / 泄漏风险
MemPose Figure 2:特征提取、外部记忆和位姿估计流程
原论文 Figure 2:DINOv2 与 PointNet++ 提取 RGB-D 特征,实例自适应关键点形成局部结构表示;按类别的 memory buffer 负责写入、相似度合并、读取和 gate fusion,最后预测 NOCS、旋转、平移与尺寸。来源:arXiv。图片版权归论文作者及出版方所有,本站仅作论文解读展示。

3. 问题设定

  • 任务:category-level object pose and size estimation(COPE)。
  • 对象设定:训练和测试属于预定义类别,但测试实例未见;不依赖每个实例的 CAD model。
  • 输入:对象 crop RGB IobjI_{obj}、由 crop depth 和相机内参反投影的点云 PobjP_{obj}、外部 instance mask,以及对象类别 ID。
  • 输出:旋转 R∈SO(3)R\in SO(3)、平移 t∈R3t\in\mathbb R^3 与三轴尺寸 s∈R3s\in\mathbb R^3,合称 9DoF pose and size。
  • 模态:RGB-D;不是 RGB-only,也不是仅 point cloud。
  • 关键先验:预定义类别、可靠 mask、depth、相机内参、训练阶段装入 checkpoint 的 category-specific memory。
  • CAD:推理不需要目标实例 CAD;但训练仍需要 9DoF / NOCS 监督。

任务边界

  • model-free 在本文语境中表示“不需要实例 CAD”,不表示没有 detector、mask、depth、类别或训练监督。
  • 方法按单个已分割对象运行,不负责从整幅图像发现所有实例。
  • memory 存的是 pooled learned features,不是 RGB 图像、CAD mesh、点云地图或可直接显示的 NOCS 模型。
  • 主结果的 memory 在测试时冻结;只有附加实验开启 test-stream update。

4. 核心动机

类别级 pose 的难点是同类实例形状差异。既有方法大致有两种知识载体:

  1. 显式 shape prior:例如平均类别模型再做 deformation,结构直观但预处理较重,构建后固定。
  2. 参数化 prior-free 网络:通过 PointNet、DINOv2、keypoints 或 spherical representation 把类别规律写进权重,推理高效但权重同样固定。

作者认为两者都缺少一个外部、可持续更新并可按当前实例检索的类别经验池。MemPose 的解决方案不是重建完整历史形状,而是把当前实例的关键点上下文压成一个 feature token,放进对应类别的固定容量 buffer。

5. 方法概览

5.1 RGB-D 与关键点特征

  1. 用冻结的 DINOv2 ViT-S/14 提取 RGB semantic features。
  2. 用 PointNet++ 提取 1,024 个输入点的 geometric features。
  3. 将对应像素的 DINOv2 特征插值到点上,与 3D 特征拼接。
  4. 初始化 96 个 learnable category embeddings,以 cross-attention 关注对象关键区域。
  5. 根据实例特征与每个点的 cosine similarity,softmax 加权得到 96 个 instance-adaptive keypoints 及其局部特征。

5.2 Memory 写入与更新

每个类别有一个长度 L=96L=96、维度 C=256C=256 的 buffer。局部关键点特征先做 average pooling,再经 MLP 与 normalization 得到一个 memory entry。

  • warm-up:buffer 未装满时直接写入,不执行检索与 merge;
  • 装满后:计算新 entry 与已有 entries 的 cosine similarity;
  • 在 similarity 上加入尺度 λ=0.1\lambda=0.1 的 Gumbel noise;
  • 选择得分最高的 entry,与新 entry 做 1/21/2 均值更新;
  • update 在 retrieval 之前执行。

这种 merge 保持固定容量,但它不是按样本计数的无偏均值;同一槽位每次都以 0.5 权重吸收新值,因此结果会受数据顺序影响。

5.3 Memory 读取与融合

局部特征先经 AG-Pose 风格的 geometric aggregation 形成每关键点 global feature。它作为 query,当前类别的 96 个 memory entries 作为 key / value,运行 scaled dot-product attention,得到 retrieved feature FRF_R。

随后用 sigmoid gate 自适应融合历史与当前信息:

wa=σ(FRWR+FglobalWf),w_a=\sigma(F_RW_R+F_{global}W_f), Faug=wa⊙FR+(1−wa)⊙Fglobal.F_{aug}=w_a\odot F_R+(1-w_a)\odot F_{global}.

5.4 Pose 与 NOCS head

模型用 FaugF_{aug} 预测关键点 NOCS coordinates,并把 keypoint positions、NOCS 与 memory-enhanced features 一起送入 pose / size predictor,输出 R,t,sR,t,s。

训练损失包括:

  • LposeL_{pose}:旋转矩阵、平移与尺寸的 L2 loss;
  • LdivL_{div}:避免关键点塌缩到同一区域;
  • LocdL_{ocd}:让关键点靠近去外点后的对象表面;
  • LrecL_{rec}:从关键点恢复 partial geometry;
  • LnocsL_{nocs}:Smooth L1 监督关键点 NOCS。

总损失权重为 0.3、10.0、2.0、15.0、2.0。

6. 训练与推理

训练设置

  • object crop:224×224;point cloud:1,024 点;keypoints:96;feature:256 维。
  • memory:每类别 96 entries;REAL275 / Wild6D 为 6 类,HouseCat6D 为 10 类。
  • memory 通过 register_buffer 保存,不参加 optimizer 与反向传播。
  • 单张 NVIDIA L40;120K iterations;batch size 36。
  • Adam;triangular2 cyclical learning rate,范围 2×10−52\times10^{-5} 到 5×10−45\times10^{-4}。
  • mask 与 AG-Pose / DPDN 一样来自 Mask R-CNN。

三种需要区分的状态

状态memory 是否写入是否用于主表含义
训练 warm-up是,先装满是防止早期不稳定 feature 立刻参与检索
训练后冻结推理否,只读取是Table 1–3 的标准结果;不读取测试历史
测试时更新是,读取当前 test stream仅 Table 8可能进一步提升,但需定义 stream 顺序、重置与 transductive 公平性

7. 实验概览

7.1 数据与指标

数据集角色论文中的主要用途
CAMERA25300K synthetic RGB-D,同 NOCS 六类synthetic 训练与 synthetic test;REAL275 / Wild6D 训练组成
REAL275六类真实 NOCS 测试主 benchmark 与全部 memory ablation
HouseCat6D十类真实家庭对象,含遮挡、玻璃和餐具更复杂类别与真实材质泛化
Wild6D五类、162 对象、486 背景视频仅使用 test split,训练来自 CAMERA25 + REAL275

指标包括 3D bounding-box IoU mAP,以及旋转 / 平移联合阈值 5°2 cm、5°5 cm、10°2 cm、10°5 cm。论文未在方法正文重新说明对称对象的具体 evaluator 约定,复现需沿用对应 benchmark 官方协议。

7.2 主结果

MemPose Table 1:REAL275 与 HouseCat6D 主结果
原论文 Table 1:REAL275 上 MemPose 达到 IoU75 81.0、5°2 cm 59.9、5°5 cm 67.7、10°2 cm 79.0;HouseCat6D 上为 IoU50 81.5、IoU75 56.4、5°2 cm 23.1、10°2 cm 52.6、10°5 cm 57.3。来源:arXiv。图片版权归论文作者及出版方所有,本站仅作论文解读展示。
数据集MemPose 关键结果最有意义的对比
REAL275IoU75 81.0;5°2 cm 59.9;10°2 cm 79.0相对 SpherePose 分别 +2.0、+1.7、+2.8 点
CAMERA25IoU75 92.5;5°2 cm 78.4;10°2 cm 87.0多数指标略高;IoU50 94.2 仍低于 SpherePose 94.8
HouseCat6DIoU50 81.5;IoU75 56.4;5°2 cm 23.1相对 AG-Pose +4.6、+3.4、+1.8 点
Wild6DIoU75 46.2;5°2 cm 29.7;10°2 cm 35.8相对 MH6D 的 IoU75 41.9 提升 4.3 点

这些结果支持 memory 对不同真实数据域有收益,但提升幅度不是统一的大幅跃升。REAL275 严格 pose 指标通常提升 1–3 点,HouseCat6D 的 IoU 提升更明显,Wild6D 则说明在跨视频真实数据上仍有收益。

7.3 Memory ablation

MemPose Table 5:memory 更新、读取与融合消融
原论文 Table 5:pre-update、带噪声的 similarity merge、读取全部 96 entries 与 gate fusion 构成最终配置。多数组件差距约 0.3–2.7 点,其中 gate 相对 concat 在 5°5 cm 上提升 2.7 点。来源:arXiv。图片版权归论文作者及出版方所有,本站仅作论文解读展示。
  • buffer length 从 0 增到 96:IoU75 79.5→81.0,5°2 cm 57.0→59.9,10°2 cm 75.1→79.0;长度 256 不再继续提升。
  • local pooled features 比 global 或 fused features 更适合做 memory entry。
  • warm-up、pre-update、noise-balanced merge 和 gate fusion 均优于对应替代项。
  • 读取全部 96 entries 优于 random / attention Top-16,但差距并不大;论文没有给 memory retrieval 的实际延迟分解。
  • Table 6 的无 memory IoU75 为 79.5,而 Table 1 / 7 的 AG-Pose 为 80.1,论文未解释这 0.6 点复现实验差异。

7.4 参数、速度与测试更新

MemPose Tables 7 和 8:效率、等参数对照及推理期 memory 更新
原论文 Tables 7–8(本站仅将两张原表纵向组合,未修改数值):MemPose 为 225M 参数、约 33 FPS,AG-Pose 为 223M、35 FPS;冻结 memory 是主结果配置,测试时更新可把 REAL275 的 5°2 cm 从 59.9 提高到 63.6。来源:arXiv。图片版权归论文作者及出版方所有,本站仅作论文解读展示。
  • 同 DINOv2 backbone:参数 223M→225M,训练 47.5→47.8 min / epoch,速度 35→33 FPS。
  • 原文把 33 vs. 35 FPS 写成“slightly higher throughput”,与表格数值相反;正确解读是 MemPose 约慢 2 FPS。
  • 把 memory 换成等参数 MLP 后为 IoU75 80.5、5°2 cm 57.8,低于真正 memory 的 81.0 / 59.9;说明增益不只是参数量,但 MLP 也比 AG-Pose 略好。
  • 测试时更新在 REAL275 把 5°2 cm 从 59.9 提到 63.6,提升显著;但论文没有充分说明 test stream 顺序、何时重置 buffer、跨场景污染和多次随机顺序方差,因此它没有纳入主比较是合理的。

8. 优缺点

优点

  • Memory module 与强 RGB-D keypoint baseline 对接清楚,方法结构容易迁移到其他 category-level pose 网络。
  • 按类别、固定长度、非参数 buffer 控制了容量,新增 learnable 参数仅约 2M。
  • 主结果坚持 frozen-memory protocol,不用测试集更新抬高与既有方法的比较。
  • REAL275、CAMERA25、HouseCat6D、Wild6D 覆盖 synthetic、受控真实和视频真实域。
  • ablation 不只移除模块,还比较 entry 类型、warm-up、更新时机、merge、retrieval size、fusion、长度、等参数 MLP 和不同视觉 backbone。

缺点 / 风险

  • 仍依赖 Mask R-CNN、depth、camera intrinsics 和类别 ID,不是端到端开放世界 pose。
  • “geometric memory”实际是 learned feature vector,缺少显式形状、canonical geometry 或可解释性验证。
  • 训练期每个 memory entry 会包含当前样本,再立即用于当前 retrieval;这与只从“之前实例”读取的叙述略有差异。
  • 0.5 平均 merge 不记录样本计数,memory 内容对训练顺序和高频形状可能敏感。
  • Figure 4 只有单个 query 的 attention 可视化,不能证明全数据集都在按几何而非 pose、背景或类别捷径检索。
  • 测试更新缺少严格 continual / online protocol,可能产生 transductive、顺序依赖和域污染问题。
  • 没有公开代码 / project page,memory 初始化、batch 写入顺序、对称 evaluator 与数据预处理仍难以完全复现。
  • 没有遮挡率、mask 噪声、depth 噪声、类别长尾或跨类别 memory interference 分桶。

9. 对我的启发

  • 可借鉴:把类别 shape prior 改成固定容量 feature prototypes,并显式做 retrieval / gate fusion,比无限增长的样本 bank 更适合部署。
  • 可作为 baseline 吗:做 RGB-D category-level 9DoF pose 时值得作为 AG-Pose 的 memory-augmented baseline;需等待代码或自行复现。
  • 最重要的公平设置:必须报告 frozen memory,不得把测试更新结果与不允许 test adaptation 的方法直接比较。
  • 可继续研究:把 memory entry canonicalize 到 NOCS,避免仅检索 pose 相近样本;加入置信度、年龄与样本计数;研究 unknown-category routing、memory forgetting 和 stream-order robustness。
  • 是否值得精读:值得。方法不复杂,但“dynamic memory”在训练、冻结推理和测试更新中的边界,以及 Table 7 的速度文字错误,都需要细读才能正确引用。

Related Papers

相关论文