JEDI:潜在端到端扩散缓解基于模型的强化学习中智能体与人类性能不对称性
TLDR
提出JEDI潜在扩散世界模型,解决Atari100k上MBRL性能不对称,实现平衡HNS。
评分理由
Strengths: Identifies a novel performance asymmetry issue in MBRL and proposes a method to mitigate it. Weaknesses: Limited to Atari100k benchmark; generalization unclear.
Read-first 评分解释
综合优先阅读分 70.6,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 56。
研究版图角色
前沿论文方法锚点
排序敏感性
稳定性:volatile;排名波动范围:88。
关键词评分
深度分析
创新点
- 识别并形式化了Atari100k上MBRL中的性能不对称性,即智能体在某些任务上优于人类,在其他任务上落后于人类
- 引入了Sym-HNS,一种更平衡的聚合指标,均匀加权人类最优和智能体最优子集
- 提出了JEDI(联合嵌入扩散)世界模型,一种在潜在空间中运行的潜在端到端扩散模型,以缓解维度灾难
- 逆转了日益恶化的性能不对称趋势,同时提高了计算效率,并在Sym-HNS、人类最优任务和Breakout上取得了最先进结果
方法
作者根据性能不对称性将Atari100k基准划分为人类最优和智能体最优子集。他们提出了一种潜在端到端联合嵌入扩散(JEDI)世界模型,该模型在潜在空间中学习,以解决像素级扩散模型固有的维度灾难。该模型使用标准MBRL训练和评估在Atari100k上进行评估,基线包括先前最先进的像素扩散世界模型,指标包括HNS、Sym-HNS和每个任务的性能。
关键结果
JEDI在Sym-HNS、人类最优任务和Breakout任务上取得了最先进的结果,逆转了日益恶化的性能不对称趋势,同时在整个Atari100k基准上保持竞争力并提高了计算效率。
技术栈
Diffusion modelsLatent spaceModel-Based Reinforcement LearningAtari100kJoint Embedding Diffusion (JEDI)