Action Shapley：强化学习中世界模型的训练数据选择度量

arXiv 26.1 2026 51.7 method

TLDR

提出Action Shapley度量用于强化学习世界模型的训练数据选择，具有高效计算和真实世界验证。

评分理由

The paper presents a novel metric and algorithm for training data selection in world models, with strong empirical results across five real-world case studies. However, the abstract lacks details on the theoretical foundations and comparisons to other selection methods beyond ad-hoc baselines.

Read-first 评分解释

综合优先阅读分 51.7，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 35。

近期性 8%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：指标、验证

主题相关性 42%

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：无

研究版图角色

前沿论文

排序敏感性

稳定性：volatile；排名波动范围：438。

关键词评分

world model

model-based reinforcement learning world model

world dynamics prediction

world simulator

generative world model

interactive world model

video world model

深度分析

创新点

用于世界模型训练数据选择的Action Shapley度量
用于计算Shapley值并降低复杂度的随机动态算法

方法

本文提出Action Shapley，一种用于强化学习世界模型训练数据选择的不可知度量。为高效计算该度量，引入了一种随机动态算法以缓解传统Shapley值计算的指数复杂度。该方法在五个数据受限的真实世界案例研究中得到实证验证。

关键结果

随机动态算法相比传统指数时间计算实现了超过80%的计算效率提升。基于Action Shapley的训练数据选择策略始终优于临时性的训练数据选择。

资源

论文