MemoryVLA++:视觉-语言-动作模型中的记忆与想象时序建模
TLDR
MemoryVLA++ 通过记忆和世界模型实现时间一致的机器人操作。
评分理由
The paper presents a novel framework combining working memory, episodic memory, and a world model for future state imagination, addressing temporal modeling in robotic tasks. Strengths include extensive experiments on simulation and real robots. Weaknesses are limited architectural details of the world model and potential reliance on pretrained VLMs.
Read-first 评分解释
综合优先阅读分 58,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 35。
研究版图角色
排序敏感性
稳定性:volatile;排名波动范围:415。
关键词评分
深度分析
创新点
- 提出了一种受认知科学启发的VLA模型全时间建模框架,融合了工作记忆、通过感知-认知记忆库实现的情景记忆,以及通过世界模型进行未来状态预测的想象力。
- 提出了用于更新记忆库的冗余感知整合,并在记忆引导下整合想象潜变量以形成时间感知令牌,用于动作预测。
方法
MemoryVLA++ 使用预训练的VLM将当前观测编码为感知和认知令牌(工作记忆)。这些令牌查询一个感知-认知记忆库,该记忆库存储来自过去交互的低层细节和高层语义,并通过冗余感知整合进行更新。一个世界模型在去噪潜空间中想象未来状态,并在记忆引导下整合想象潜变量以形成完整的时间感知令牌,然后这些令牌条件化一个扩散动作专家,以预测时间一致的动作序列。
关键结果
该方法在5个模拟基准(Libero, SimplerEnv, Mikasa-Robo, Calvin, Libero-Plus)和3个机器人上的3类真实机器人任务中取得了强劲性能。在真实机器人上,在通用、记忆依赖和想象依赖任务上分别获得了+9%、+26%和+28%的提升。