Awesome World Model Hub 论文 · 数据集 · 项目
← 返回论文列表

通过生成式世界模型为多智能体决策问题提供有依据的答案

NeurIPS 24 2024 68.3 method

TLDR

将语言引导的生成式世界模型融入多智能体强化学习,生成有依据的决策答案。

评分理由

The paper presents a novel framework combining a language-guided simulator with separate dynamics and reward models, showing strong empirical results on the StarCraft Multi-Agent Challenge. However, it is evaluated on only one benchmark, limiting generalizability claims.

Read-first 评分解释

综合优先阅读分 68.3,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 58。

主题相关性 42%
82.9

使用现有 LLM 关键词相关性评分,并归一化到 0-100。 关键词:world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

方法质量 25%
80

检查可见的摘要与分析字段,寻找实验、数据集、基线、指标和局限性等方法证据。 命中信号:基准、评估、结果

近期性 8%
75.1

使用温和的时间衰减,让近期论文更容易浮现,同时保留较早基础工作的价值。 年份:2024

可复现性 25%
30

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。 论文:有;代码:无;数据:无;命中信号:无

研究版图角色

方法锚点

排序敏感性

稳定性:volatile;排名波动范围:191。

关键词评分

world model
10
generative world model
10
world simulator
9
model-based reinforcement learning world model
9
world dynamics prediction
8
interactive world model
7
video world model
5

深度分析

创新点

  • 将语言引导的模拟器(世界模型)集成到多智能体强化学习流程中,以生成有依据的答案
  • 分别学习动态模型和奖励模型,动态模型使用图像分词器和因果变换器进行自回归交互转换
  • 奖励模型作为双向变换器,通过在语言引导下最大化专家演示轨迹的似然来训练
  • 通过在动态模型上运行收敛的策略,生成图像序列作为答案

方法

该框架使用一个世界模型,分别学习动态(通过图像分词器和因果变换器)和奖励(通过双向变换器,在语言引导下最大化专家演示轨迹的似然)。给定当前状态图像和任务描述,世界模型用于训练联合策略,然后在动态模型上运行收敛的策略,生成图像序列作为答案。

关键结果

该框架在StarCraft Multi-Agent Challenge基准的训练任务和未见任务上均取得了优越性能,生成了一致的交互序列和可解释的奖励函数。

局限性

  • 评估仅限于StarCraft Multi-Agent Challenge基准;未展示对其他多智能体决策领域的泛化能力
  • 该方法需要为奖励模型提供语言引导,这在所有环境中可能不可用或难以定义
  • 动态模型和奖励模型的分别训练可能会引入额外的计算复杂度和训练开销

技术栈

Image tokenizerCausal transformerBidirectional transformerMulti-agent reinforcement learningWorld modelLanguage-guided simulator

标签