你所想即你所见:通过视觉-语言好奇心驱动VLM智能体的探索
TLDR
GLANCE利用语言世界模型预测与视觉观察之间的差异作为内在好奇心,驱动VLM智能体的探索。
评分理由
Strengths include a novel integration of curiosity-driven exploration with VLM world models to address sparse-reward tasks. Weaknesses: the approach is limited to VLM agents and may require further validation across diverse environments.
Read-first 评分解释
综合优先阅读分 49,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 39。
研究版图角色
前沿论文桥接论文
排序敏感性
稳定性:volatile;排名波动范围:268。
关键词评分
深度分析
创新点
- GLANCE框架,通过将智能体的语言世界模型锚定到演化目标网络的稳定视觉表示上,统一了推理与探索
- 利用语言预测与视觉现实之间的差异作为强化学习中的内在好奇心信号,驱动探索
- 将“智能体所想”与“智能体所见”对齐作为解决复杂或稀疏智能体任务的关键原则
方法
GLANCE采用具有语言世界模型(通过CoT推理)的VLM智能体,以及一个提供稳定视觉表示的演化目标网络。智能体的语言预测与实际视觉观察之间的差异被用作强化学习框架中的内在好奇心奖励,引导智能体探索其内部模型不确定的区域。该方法在一系列具有稀疏奖励的智能体任务上进行了评估。
关键结果
GLANCE有效驱动了稀疏奖励任务中的探索,证明将语言预测与视觉观察对齐是解决复杂智能体任务的关键。
技术栈
VLMReinforcement LearningCoT reasoningTarget Network