基于Transformer世界模型的行为不变任务表示学习用于离线元强化学习

arXiv 2026 59.4 method

TLDR

基于Transformer世界模型和不变任务表示的离线元强化学习框架，处理分布偏移和稀疏奖励。

评分理由

The paper proposes a novel integration of information-theoretic task representation with a Transformer-based stochastic world model to address context and policy distribution shifts in offline meta-RL. Strengths include clear problem formulation and extensive evaluations showing superior performance, but weaknesses include lack of real-world experiments and reliance on simulated environments.

Read-first 评分解释

综合优先阅读分 59.4，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 35。

近期性 6%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

引用影响力 18%

92.1

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。归一化引用分位：0.92103099

方法质量 18%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基线、数据集、评估、指标、结果

主题相关性 29%

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

可复现性 18%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：数据集

引用速度 12%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

基础论文前沿论文桥接论文方法锚点

排序敏感性

稳定性：volatile；排名波动范围：386。

关键词评分

world model

model-based reinforcement learning world model

world dynamics prediction

generative world model

world simulator

interactive world model

video world model

深度分析

创新点

提取行为不变潜在变量的信息论任务表示学习
基于Transformer的随机世界模型用于离线元强化学习
对基于想象的回滚施加保守值惩罚以缓解策略偏移和模型利用

方法

该框架将信息论任务表示学习与基于Transformer的随机世界模型相结合。它提取对行为策略不变的任务定义潜在变量以解决上下文分布偏移，并对基于想象的回滚施加保守值惩罚以处理策略偏移和模型利用。该方法在离线元强化学习任务上进行了评估，使用了基线和稳定性与泛化性指标。

关键结果

该方法优于现有最先进方法，在分布外和稀疏奖励设置下展现出卓越的稳定性和泛化能力。

资源

论文