WM-Craftnet:面向泛化且稳健的灵巧手内操作的世界联觉模型
TLDR
WM-Craftnet 将世界联觉模型用作任务上下文,提升灵巧手内操作的稳健性、泛化性与仿真到现实迁移。
评分理由
The paper introduces a clever use of a world model as recurrent context rather than for policy optimization, with strong ablations and multi-object generalization. Weaknesses include limited abstract-level detail on real-world evaluation and no direct comparison to state-of-the-art world simulators.
Read-first 评分解释
综合优先阅读分 34.6,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 35。
研究版图角色
前沿论文方法锚点
排序敏感性
稳定性:volatile;排名波动范围:338。
关键词评分
深度分析
创新点
- 提出 WM-Craftnet,一种以世界模型为条件的框架,将所学到的 World Synesthesia Model (WSM) 用作非对称 Actor-Critic 策略的循环任务上下文,而非用于潜在想象或策略优化。
- 从本体感觉、深度、触觉感知和动作中学习紧凑的、以动作条件化的潜在动力学,并通过多模态重建和奖励预测进行监督。
- 训练 WSM 从带噪声的深度输入重建干净的深度目标,从而为真实机器人部署提供去噪后的几何状态。
- 使用在 9 个 z 轴物体上预训练的 WSM 作为 49 个物体下游策略学习的可复用先验。
- 通过消融实验证明,预测性世界建模、干净深度监督和触觉接触线索共同塑造了学到的状态。
方法
WM-Craftnet 学习一个世界联觉模型(WSM),该模型从本体感觉、深度、触觉感知和动作中编码以动作条件化的潜在动力学,并通过多模态重建和奖励预测进行监督。WSM 被用作非对称 Actor-Critic 策略的循环任务上下文;在 9 个 z 轴物体上预训练的 WSM 被迁移到 49 个物体的下游策略学习。消融实验比较了循环基线、辅助头、触觉掩蔽和 WSM 模态头。
关键结果
WSM 上下文提升了多物体旋转性能;消融实验表明,预测性世界建模、干净深度监督和触觉接触线索均对学到的状态有贡献。针对未见物体、扰动恢复和 sim-to-real 迁移,报告了定量与定性证据。