WM-VLM：探析交错式视觉-文本推理中的内部世界模型

arXiv 2026 34.4 method

TLDR

提出WM-VLM，用轻量级世界模型分支生成中间视觉状态，使2D/3D心理旋转推理最高提升39.25个百分点。

评分理由

Strengths include a clear two-stage training procedure, programmatically verifiable spatial tasks, strong gains over supervised fine-tuning, and ablations showing dependence on generated visual states. Weaknesses are that evaluations use synthetic mental rotation tasks rather than real-world benchmarks, and the world model scope is limited to next-state generation for spatial reasoning, not broader dynamics.

Read-first 评分解释

综合优先阅读分 34.4，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 38。

近期性 5%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

方法质量 15%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：消融、评估、结果

主题相关性 25%

54.3

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

可复现性 15%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：无

图谱声望 15%

5.7

基于可用 OpenAlex 引用关系构建局部引用图，并计算 PageRank 风格的图谱声望。局部 PageRank：0.0016

引用影响力 15%

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。引用数：0

引用速度 10%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

前沿论文方法锚点

排序敏感性

稳定性：volatile；排名波动范围：278。

关键词评分

world model

generative world model

world simulator

world dynamics prediction

interactive world model

video world model

model-based reinforcement learning world model

深度分析

创新点

提出WM-VLM，为预训练的VLM配备一个轻量级世界模型分支，用于生成中间视觉状态。
采用两阶段训练：先学习生成下一个视觉状态，再学习利用该生成状态进行推理。
构造了具有可验证中间视觉状态的程序化空间推理任务，以同时评估生成质量和对视觉状态的依赖程度。
证明了与仅使用语言的监督微调VLM相比，生成的视觉状态能提升空间推理表现。

方法

WM-VLM在预训练的VLM上增加一个轻量级世界模型分支，用于生成中间视觉状态。模型采用两阶段训练：首先生成下一个视觉状态，然后利用该状态进行推理。评估使用程序化构造的2D和3D心理旋转任务，这些任务具有可验证的中间视觉状态，并与监督微调的骨干模型进行比较，同时对生成的视觉状态进行消融实验。

关键结果

WM-VLM在2D和3D心理旋转任务上持续优于监督微调的骨干模型，提升最高达39.25个百分点。消融实验显示，移除或破坏生成的视觉状态会使性能急剧下降。

资源

论文