VLA-JEPA: 通过潜在世界模型增强视觉-语言-动作模型
TLDR
VLA-JEPA利用JEPA风格的潜在世界模型预测动作相关状态转换,提升VLA策略的鲁棒性和泛化性。
评分理由
The paper clearly identifies a key limitation of existing latent-action objectives (pixel variation bias) and proposes a leakage-free latent prediction method. Strengths include a simple two-stage recipe and demonstrated gains on multiple benchmarks including real-world tasks. Weaknesses are that the abstract does not detail limitations or ablation studies, and the novelty relative to prior JEPA work is not fully elaborated.
Read-first 评分解释
综合优先阅读分 52.4,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 37。
研究版图角色
前沿论文
排序敏感性
稳定性:volatile;排名波动范围:456。
关键词评分
深度分析
创新点
- 用于视觉-语言-动作模型的JEPA风格预训练框架
- 无泄漏状态预测:未来信息仅用作监督目标,从不作为输入
- 在潜在空间而非像素空间中进行预测,学习对相机运动和无关背景变化鲁棒的动态抽象
- 简单的两阶段方案:JEPA预训练后接动作头微调,避免了多阶段复杂性
方法
VLA-JEPA使用目标编码器从未来帧生成潜在表示,而学生路径仅看到当前观测。未来信息仅用作监督目标,从不作为输入。模型在视频数据上使用JEPA风格的目标在潜在空间中进行预训练,然后使用动作头进行微调以完成下游任务。
关键结果
在LIBERO、LIBERO-Plus、SimplerEnv和真实世界操作任务上的实验表明,VLA-JEPA在泛化性和鲁棒性上相比现有方法取得了一致的提升。
技术栈
JEPA潜在世界模型视觉-语言-动作模型目标编码器学生路径