QuantWM：面向视频世界模型的时间一致2比特KV缓存量化

arXiv 2026 33.1 method

TLDR

QuantWM提出无需训练的2比特KV缓存量化框架，保持注意力logits与时空token选择，避免视频闪烁。

评分理由

The paper provides a clear, motivated analysis of why key quantization harms video world models despite lower reconstruction error, and proposes two complementary training-free techniques. However, the abstract is truncated and does not show quantitative results, making empirical validation hard to assess from the visible text.

Read-first 评分解释

综合优先阅读分 33.1，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 30。

近期性 5%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

方法质量 15%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：分析、基准、实验、指标

主题相关性 25%

42.9

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

可复现性 15%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：无

图谱声望 15%

5.7

基于可用 OpenAlex 引用关系构建局部引用图，并计算 PageRank 风格的图谱声望。局部 PageRank：0.0016

引用影响力 15%

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。引用数：0

引用速度 10%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

前沿论文方法锚点

排序敏感性

稳定性：volatile；排名波动范围：341。

关键词评分

video world model

world model

generative world model

world dynamics prediction

world simulator

interactive world model

model-based reinforcement learning world model

深度分析

创新点

针对视频世界模型的无需训练的2比特KV缓存量化框架（QuantWM），它保持注意力logits和时空token选择。
量化敏感性感知聚类（QSAC），联合考虑历史Query敏感性和残差范围，选择对INT2友好的Key质心，减少对注意力更关键通道的量化误差。
主子空间注意力补偿（PSAC），利用低秩投影沿主导Query子空间恢复剩余的Key误差，以稳定注意力logits。
分析发现：在视频世界模型中，Key量化产生的重建误差小于Value，但会通过改变注意力logits和偏移时空token选择导致更大的输出退化。

方法

QuantWM是一种面向视频世界模型的无需训练的2比特KV缓存量化框架。它结合量化敏感性感知聚类（基于历史Query敏感性和残差范围选择对INT2友好的Key质心）与主子空间注意力补偿（通过低秩投影沿主导Query子空间校正剩余的Key误差）。该方法在LingBot-World-v2、HY-World 1.5、Matrix-Game-2、Longcat-Video和Causal-Forcing上进行评估，并与现有2比特KV缓存量化方法在视觉质量和时序一致性指标上进行比较。

关键结果

现有2比特KV缓存量化方法在VBench上接近无损，但应用于视频世界模型时仍会导致严重的时间闪烁和视觉退化。QuantWM显著提升了视觉质量和时序一致性，在多个基准上优于现有方法，实现了高达6.20倍的KV缓存内存压缩，且额外开销有限。

资源

论文