AdaptiveLoad：面向高效视频扩散Transformer训练

arXiv 2026 54 system

TLDR

AdaptiveLoad通过双约束负载均衡和融合内核优化视频扩散Transformer训练，吞吐量提升27.2%。

评分理由

The paper addresses a critical computational bottleneck in training video diffusion transformers for world models, proposing a novel load balancing system and fused CUDA kernel. Strengths include clear problem identification and significant empirical gains on a real-world model (Wan 2.1). Weaknesses are limited generality (single architecture) and lack of comparison to other advanced scheduling methods.

Read-first 评分解释

综合优先阅读分 54，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 35。

近期性 6%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

引用影响力 18%

81.2

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。归一化引用分位：0.81155173

方法质量 18%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：数据集、实验、结果

主题相关性 29%

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

可复现性 18%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：数据集

引用速度 12%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

基础论文前沿论文桥接论文方法锚点

排序敏感性

稳定性：volatile；排名波动范围：244。

关键词评分

world model

video world model

generative world model

world simulator

world dynamics prediction

interactive world model

model-based reinforcement learning world model

深度分析

创新点

双约束自适应负载均衡系统，通过 B × S^p ≤ M_comp 同时限制内存消耗和计算负载
融合 LayerNorm-Modulate CUDA 内核，采用 D-tile 合并归约策略提升吞吐量并缓解内存压力

方法

AdaptiveLoad 是一个用于训练视频扩散 Transformer 的集成优化框架，包含两个组件：(1) 双约束自适应负载均衡系统，通过同时约束内存和计算（B × S^p ≤ M_comp）消除长序列瓶颈；(2) 融合 LayerNorm-Modulate CUDA 内核，使用 D-tile 合并归约策略。该方法在 Wan 2.1 世界模型上进行了评估。

关键结果

该方法将计算不平衡率从 39% 降低到 18.9%，峰值显存利用率提升 22.7%，在 Wan 2.1 世界模型上整体训练吞吐量提升 27.2%。

技术栈

CUDAPyTorch

资源

论文