R-AIF: 基于主动推理与世界模型的像素级稀疏奖励机器人任务求解

arXiv 24.9 2024 44.5 method, application

TLDR

R-AIF利用主动推理和世界模型从像素中解决稀疏奖励机器人任务，在POMDP中超越现有最优模型。

评分理由

The paper introduces novel prior preference learning and self-revision schedules for active inference in continuous-action POMDPs with sparse rewards, showing empirical improvements. However, the abstract does not specify real-world robotic experiments, and the reliance on simulated environments may limit generalizability.

Read-first 评分解释

综合优先阅读分 44.5，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 24。

近期性 8%

75.1

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2024

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：结果

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：代码、GitHub

主题相关性 42%

34.3

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

研究版图角色

候选论文

排序敏感性

稳定性：volatile；排名波动范围：206。

关键词评分

world model

model-based reinforcement learning world model

world dynamics prediction

generative world model

world simulator

interactive world model

video world model

深度分析

创新点

新颖的先验偏好学习技术
面向POMDP中主动推理的自我修正调度策略

方法

本文提出R-AIF，一种使用世界模型处理部分可观测马尔可夫决策过程（POMDP）和像素观测的主动推理智能体。它引入了新颖的先验偏好学习技术和自我修正调度策略，使智能体能够在稀疏奖励、连续动作、基于目标的机器人控制环境中表现出色。

关键结果

实验结果表明，该智能体在累积奖励、相对稳定性和成功率方面均优于现有最优模型。

资源

论文