ThinkJEPA: 用大型视觉-语言推理模型赋能潜在世界模型

arXiv 26.3 2026 48.8 method

TLDR

ThinkJEPA将VLM与JEPA潜在世界模型结合，实现长期视频预测，在手部操作轨迹预测中优于基线。

评分理由

The paper presents a novel dual-temporal framework combining dense JEPA and sparse VLM branches, with a hierarchical pyramid module for guidance. Strengths include addressing limitations of both dense prediction and VLMs, but the evaluation is limited to a single domain (hand-manipulation) and lacks broader real-world benchmarks or interactive settings.

Read-first 评分解释

综合优先阅读分 48.8，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 37。

近期性 6%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

方法质量 18%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基线、数据集、实验

主题相关性 29%

52.9

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

可复现性 18%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：数据集

引用影响力 18%

37.2

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。归一化引用分位：0.37244898

引用速度 12%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

前沿论文方法锚点

排序敏感性

稳定性：volatile；排名波动范围：330。

关键词评分

world model

video world model

world dynamics prediction

generative world model

interactive world model

model-based reinforcement learning world model

world simulator

深度分析

创新点

VLM引导的JEPA风格潜在世界建模框架，通过双时间路径结合密集帧动态与长期语义引导
双时间路径：密集JEPA分支用于细粒度运动和交互线索，均匀采样的VLM思考者分支（大时间步长）用于知识丰富的引导
层次化金字塔表示提取模块，将多层VLM表示聚合成与潜在预测兼容的引导特征

方法

提出的ThinkJEPA框架结合了密集JEPA分支（用于细粒度运动和交互线索）和均匀采样的VLM思考者分支（提供长期语义引导）。层次化金字塔表示提取模块将VLM的渐进推理信号转换为潜在预测的引导特征。模型在手部操作轨迹预测上进行了评估，并与VLM-only基线和JEPA预测器基线进行了比较。

关键结果

ThinkJEPA在手部操作轨迹预测上优于强VLM-only基线和JEPA预测器基线，并展现出更稳健的长期展开行为。

局限性

短观测窗口的密集预测限制了时间上下文，使预测器偏向局部低层次推断，难以捕捉长期语义
VLM不适合作为独立密集预测器，原因包括计算驱动的稀疏采样、将细粒度交互状态压缩为文本导向表示的语言输出瓶颈，以及适应小规模动作条件数据集时的数据分布不匹配

技术栈

VLM (Vision-Language Model)JEPA (Joint Embedding Predictive Architecture)Hierarchical Pyramid Representation Extraction

资源

论文