基于视觉语言世界模型的推理规划
TLDR
提出了VLWM,一种用于规划的视觉语言世界模型,在视觉辅助规划基准上达到最先进水平。
评分理由
Strengths: novel integration of vision-language model for world modeling with system-1 and system-2 planning, strong empirical results on multiple benchmarks. Weaknesses: limited details on methodology and limitations in abstract; reliance on LLM self-refine and Tree of Captions may be computationally expensive.
Read-first 评分解释
综合优先阅读分 63.2,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 52。
研究版图角色
前沿论文方法锚点
排序敏感性
稳定性:volatile;排名波动范围:255。
关键词评分
深度分析
创新点
- 训练一个基于自然视频进行语言世界建模的基础模型
- 使用以树状字幕为条件的迭代LLM自我精炼来提取轨迹目标
- 同时学习动作策略和动力学模型,用于反应性系统-1和反思性系统-2规划
- 自监督批评模型,用于衡量假设未来状态与目标状态之间的语义距离
方法
视觉语言世界模型(VLWM)首先从视觉观察中推断总体目标达成情况,然后预测由交替的动作和世界状态变化组成的轨迹。目标通过迭代的LLM自我精炼提取,该过程以树状字幕表示的压缩未来观察为条件。该模型同时学习动作策略(用于系统-1规划解码)和动力学模型(用于通过成本最小化进行系统-2规划),成本由自监督批评模型衡量。
关键结果
VLWM在基准评估和PlannerArena人工评估中均达到了最先进的视觉辅助规划(VPA)性能,其中系统-2在Elo评分上比系统-1提高了27%。它还在RoboVQA和WorldPrediction基准上优于强大的VLM基线。