MODIP：扩散策略的高效基于模型的优化

arXiv 2026 47 method, application

TLDR

MODIP用世界模型和MPC高效微调扩散策略离线到在线，在D4RL和RoboMimic上超越基线。

评分理由

The paper presents a novel framework that addresses the challenge of RL fine-tuning for diffusion policies by leveraging a world model for trajectory generation and policy adaptation. Strengths include efficiency gains via terminal state value and policy-independent critics; weaknesses include limited evaluation to simulated tasks and potential scalability issues.

Read-first 评分解释

综合优先阅读分 47，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 20。

近期性 6%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

引用影响力 18%

95.6

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。归一化引用分位：0.95592828

方法质量 18%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基线、实验

可复现性 18%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：无

主题相关性 29%

28.6

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

引用速度 12%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

基础论文前沿论文桥接论文

排序敏感性

稳定性：volatile；排名波动范围：402。

关键词评分

world model

model-based reinforcement learning world model

world dynamics prediction

world simulator

generative world model

interactive world model

video world model

深度分析

创新点

MODIP框架，用于扩散策略的离线到在线微调，利用世界模型指导策略适应
使用模型预测控制（MPC）在世界模型内生成高质量轨迹，作为微调的监督目标
使用终端状态值代替策略相关的状态-动作值，以减少MPC推理时间
使用策略无关的TD目标训练评论家，以减少训练时间

方法

MODIP利用世界模型指导扩散策略的策略适应。它使用模型预测控制（MPC）在世界模型内生成高质量轨迹，这些轨迹作为微调扩散策略的监督目标。为了提高效率，MODIP在MPC规划中使用终端状态值代替策略相关的状态-动作值，并使用策略无关的TD目标训练评论家。

关键结果

在D4RL（MuJoCo, Kitchen）和RoboMimic任务上的实验表明，MODIP将扩散策略提升到超越行为克隆的水平，并且与扩散策略强化学习微调方法以及强模型基线（如TD-MPC2）相比具有竞争力或更优。

资源

论文