学习用语言建模世界

arXiv 23.8 2023 72.7 method

TLDR

Dynalang从多样语言中学习多模态世界模型以预测未来观察和奖励，实现游戏和照片级真实家庭导航。

评分理由

The paper presents a novel perspective unifying language understanding with future prediction via a self-supervised world model. Strengths include demonstrated success on multiple tasks and pretraining on text-only data; weaknesses are limited comparison to baselines and lack of explicit real-world deployment details.

Read-first 评分解释

综合优先阅读分 72.7，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 58。

主题相关性 42%

82.9

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：有；数据：无；命中信号：数据集、GitHub

近期性 8%

65.1

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2023

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：数据集

研究版图角色

复现锚点

排序敏感性

稳定性：volatile；排名波动范围：157。

关键词评分

world model

generative world model

world dynamics prediction

model-based reinforcement learning world model

world simulator

interactive world model

video world model

深度分析

创新点

将多样化语言解释为未来预测的信号，将语言理解与未来预测统一为自监督学习目标。
Dynalang智能体学习多模态世界模型以预测未来文本和图像表示，并通过想象模型推演来行动。
能够在纯文本数据上预训练，并生成基于环境的语言。

方法

Dynalang学习一个多模态世界模型，预测未来的文本和图像表示。智能体通过从世界模型进行想象推演来学习行动，使用自监督目标将语言理解与未来预测统一。

关键结果

在使用多样化语言（环境描述、游戏规则、指令）时，Dynalang在从游戏到导航照片级真实家庭扫描的任务中优于语言条件策略。它还支持在纯文本数据上预训练以及生成基于环境的语言。

技术栈

Dynalang多模态世界模型自监督学习

资源

论文代码