世界建模造就更好的规划器：面向具身任务规划的双重偏好优化

arXiv 25.3 2025 48.2 method, application

TLDR

提出双重偏好优化，通过偏好学习联合优化状态预测与动作选择，在VoTa-Bench上超越基线。

评分理由

Strengths include a novel framework combining world modeling with preference learning and automatic data collection via tree search, with strong empirical results. Weaknesses are limited evaluation to a single benchmark and lack of discussion on generalization or limitations.

Read-first 评分解释

综合优先阅读分 48.2，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 31。

近期性 8%

86.7

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2025

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基准、实验

主题相关性 42%

44.3

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：无

研究版图角色

前沿论文

排序敏感性

稳定性：volatile；排名波动范围：406。

关键词评分

world model

world dynamics prediction

model-based reinforcement learning world model

world simulator

generative world model

interactive world model

video world model

深度分析

创新点

双重偏好优化（D²PO）框架，通过偏好学习联合优化状态预测和动作选择
使用树搜索机制自动收集轨迹和逐步偏好数据，无需人工标注
在VoTa-Bench上，应用于多个LVLMs（Qwen2-VL、LLaVA、LLaMA）时，性能优于现有方法和GPT-4o

方法

双重偏好优化（D²PO）是一种学习框架，通过偏好学习联合优化状态预测和动作选择。它采用树搜索机制自动生成轨迹和逐步偏好数据用于训练，消除了人工标注的需求。该方法应用于LVLMs（Qwen2-VL 7B、LLaVA-1.6 7B、LLaMA-3.2 11B），并在VoTa-Bench基准上进行评估。

关键结果

在VoTa-Bench上，基于D²PO的方法在三个LVLM骨干网络上显著优于现有方法和GPT-4o，以更高效的执行路径实现了更高的任务成功率。

技术栈

Qwen2-VLLLaVA-1.6LLaMA-3.2VoTa-BenchTree SearchPreference LearningDual Preference Optimization (D²PO)

资源

论文