BWArea模型：学习世界模型、逆动力学和策略以实现可控语言生成

arXiv 24.5 2024 42 method

TLDR

一种受大脑启发的模型，结合世界模型、逆动力学和策略，实现可控语言生成，对脏数据具有鲁棒性。

评分理由

The paper presents a novel decomposed architecture for language generation, showing competitive performance and robustness to dirty data. However, the abstract lacks details on real-world benchmarks or empirical evaluations, and the claims are supported only by pre-training results.

Read-first 评分解释

综合优先阅读分 42，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 18。

近期性 8%

75.1

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2024

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：评估、指标

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：无

主题相关性 42%

25.7

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

研究版图角色

方法锚点

排序敏感性

稳定性：volatile；排名波动范围：221。

关键词评分

world model

model-based reinforcement learning world model

generative world model

world dynamics prediction

world simulator

interactive world model

video world model

深度分析

创新点

受布罗卡区和韦尼克区启发，将语言生成概念化为一个包含世界模型、逆动力学模型和认知策略的决策任务。
分解的模型结构在保持与自回归LLMs竞争性能的同时，对脏预训练数据具有鲁棒性，减少了数据选择工作。
通过使用下游奖励指标微调认知策略实现增强的可控性，从而简化对齐过程。

方法

BWArea模型包含三个组件：语言世界模型、逆动力学模型（类比韦尼克区，用于推断潜在动作）和认知策略。该模型使用300亿干净令牌和10亿参数进行预训练，并可通过奖励指标进行微调。在TextWorld和BigBench Hard任务上评估，并与自回归LLMs进行比较。

关键结果

BWArea模型在使用300亿干净令牌预训练后，性能与同等规模（10亿参数）的自回归LLMs相当。当预训练中出现脏数据时，其性能不会退化；在TextWorld和BigBench Hard的10个任务中，有9个任务在微调后优于自回归LLMs。

局限性

仅在10亿参数规模下测试，未展示向更大模型的可扩展性。
评估仅限于两个任务套件（TextWorld和BigBench Hard），未涉及其他领域的泛化性。
摘要未讨论分解架构的计算开销或潜在失败模式。

技术栈

Large Language Models (LLMs)World ModelInverse Dynamics ModelCognitive PolicyPre-trainingFine-tuningTextWorldBigBench Hard

资源

论文