面向样本高效多智能体强化学习的Transformer世界模型

arXiv 25.6 2025 58.9 method

TLDR

一种基于Transformer的多智能体强化学习世界模型，通过去中心化想象和队友预测实现最先进的样本效率。

评分理由

The paper presents a novel architecture with strong empirical results across multiple benchmarks and ablation studies, but the abstract lacks discussion of limitations or comparisons to other world model variants.

Read-first 评分解释

综合优先阅读分 58.9，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 49。

近期性 8%

86.7

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2025

主题相关性 42%

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：消融、基准

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：无

研究版图角色

前沿论文

排序敏感性

稳定性：volatile；排名波动范围：364。

关键词评分

world model

world dynamics prediction

model-based reinforcement learning world model

interactive world model

world simulator

generative world model

video world model

深度分析

创新点

结合去中心化想象与半中心化评论家的多智能体Transformer世界模型（MATWM）
用于在部分可观测条件下建模和预测其他智能体行为的队友预测模块
通过基于最新经验训练来解决非平稳性的优先回放机制

方法

MATWM是一种基于Transformer的多智能体强化学习世界模型，采用去中心化想象框架、半中心化评论家和队友预测模块。它引入了优先回放机制以适应不断演化的策略。该模型在基于向量和图像的环境中进行评估，包括StarCraft Multi-Agent Challenge、PettingZoo和MeltingPot。

关键结果

MATWM实现了最先进的性能，优于无模型方法和先前的世界模型方法，并展现出强大的样本效率，在仅50K次环境交互中即可达到接近最优的性能。

资源

论文