一帧即一个Token：基于Delta Token的高效生成式世界建模

arXiv 2026 56.9 method

TLDR

提出DeltaTok与DeltaWorld：在VFM特征空间用增量令牌高效生成多样未来，参数和计算量大幅降低。

评分理由

The paper presents a novel tokenization scheme and generative world model with strong efficiency gains and empirical evaluation on dense forecasting tasks. Weaknesses include lack of visible details on benchmark scope and potential limitations of delta-token representation for broader video generation.

Read-first 评分解释

综合优先阅读分 56.9，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 37。

近期性 8%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：评估、实验

主题相关性 42%

52.9

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：代码、GitHub

研究版图角色

前沿论文

排序敏感性

稳定性：volatile；排名波动范围：361。

关键词评分

generative world model

world model

video world model

world dynamics prediction

world simulator

interactive world model

model-based reinforcement learning world model

深度分析

创新点

DeltaTok 分词器将连续帧之间的 VFM 特征差异编码为单个连续增量令牌。
DeltaWorld 生成式世界模型基于增量令牌高效生成多样化且合理的未来。
增量令牌将视频从三维时空表示降为一维时间序列，例如 512x512 帧可实现 1,024 倍令牌缩减。
实现可解的多假设训练：并行生成多个未来，仅监督其中最优者。
推理时仅需单次前向传播即可产生多样化预测。

方法

该方法在视觉基础模型（VFM）的特征空间中预测未来。DeltaTok 将连续帧之间的 VFM 特征差异编码为单个连续增量令牌；DeltaWorld 是在这些令牌上训练的生成式世界模型。训练采用多假设监督：并行生成多个未来，仅对最优结果进行监督，并在密集预测任务上进行评估。

关键结果

在密集预测任务上，DeltaWorld 预测的未来更接近真实世界结果，同时相比现有生成式世界模型参数减少超过 35 倍，FLOPs 减少约 2,000 倍。

资源

论文