⌁ Awesome World Model Hub 论文 · 数据集 · 项目
← 返回论文列表

Velox:空间记忆让世界模型更高效

arXiv 2026 34.4 method

TLDR

Velox 利用相机视锥体切片的免训练注意力路由,加速视频世界模型展开并保持WBench质量。

评分理由

The paper addresses a clear bottleneck in video world models—growing KV caches—and reports strong speedups with modest quality loss on a benchmark. However, the method relies on geometric camera assumptions and the abstract does not demonstrate generalization beyond the evaluated navigation setting.

Read-first 评分解释

综合优先阅读分 34.4,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 44。

近期性 5%
100

使用温和的时间衰减,让近期论文更容易浮现,同时保留较早基础工作的价值。 年份:2026

主题相关性 25%
62.9

使用现有 LLM 关键词相关性评分,并归一化到 0-100。 关键词:world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

方法质量 15%
50

检查可见的摘要与分析字段,寻找实验、数据集、基线、指标和局限性等方法证据。 命中信号:指标

可复现性 15%
30

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。 论文:有;代码:无;数据:无;命中信号:无

图谱声望 15%
10.9

基于可用 OpenAlex 引用关系构建局部引用图,并计算 PageRank 风格的图谱声望。 局部 PageRank:0.0031

引用影响力 15%
0

使用 OpenAlex 形态的引用元数据作为文献关注度信号,并与论文本身质量分开处理。 引用数:0

引用速度 10%
0

引用速度按发表年限估算年均引用,降低旧论文天然占优的偏差。 年均引用:0.00

研究版图角色

前沿论文

排序敏感性

稳定性:volatile;排名波动范围:292。

关键词评分

world model
10
video world model
10
generative world model
7
interactive world model
7
world simulator
5
world dynamics prediction
5
model-based reinforcement learning world model
0

深度分析

创新点

  • 无需训练的注意力路由器(Velox),用于分块视频扩散世界模型中的区域级上下文选择。
  • 将历史块表示为具有深度区间的相机视锥体切片,并通过最近性优先的多重扭曲获取当前块深度。
  • 对于覆盖良好的区域,基于视锥体切片重叠柔和地调制各层模型导出的块重要性;未覆盖区域保留模型导出的路径。
  • 采用固定的令牌-块粒度,与FlashAttention风格的分块执行兼容,减少随展开长度增长的注意力成本。
  • 在同一块H200上与去噪异步运行视锥体切片构建。

方法

Velox是一种用于分块视频扩散世界模型的无需训练注意力路由器。它为历史块构建带深度区间的相机视锥体切片,通过最近性优先的多重扭曲估计当前块深度,并在覆盖区域使用视锥体切片重叠调制模型导出的块重要性。固定的令牌-块粒度与FlashAttention风格的分块执行匹配,视锥体切片构建与去噪异步运行。

关键结果

在第48个分块,Velox将注意力加速4.36倍,将去噪加速2.43倍。在完整的158个案例WBench导航划分中,Velox与密集LingBot-Fast-Cam的API-free平均分数差距保持在0.15以内。

技术栈

FlashAttentionH200

标签