BadWAM: 当世界-动作模型想象正确但行动错误

arXiv 2026 35.6 method

TLDR

破坏世界-动作模型想象与执行动作对齐的对抗攻击框架。

评分理由

Strengths: novel attack surface (World-Action Drift) and two distinct attack types. Weaknesses: evaluation only on model variants, no real-world validation; limited scope of WAMs.

Read-first 评分解释

综合优先阅读分 35.6，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 37。

近期性 6%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

主题相关性 29%

52.9

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

方法质量 18%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：结果

可复现性 18%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：无

引用影响力 18%

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。引用数：0

引用速度 12%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

前沿论文

排序敏感性

稳定性：volatile；排名波动范围：176。

关键词评分

world dynamics prediction

world model

model-based reinforcement learning world model

interactive world model

world simulator

video world model

generative world model

深度分析

创新点

提出了BadWAM，一个统一框架，用于建模和评估World-Action Drift Attacks，这是一类针对世界-动作模型(WAMs)的新型对抗攻击。
沿着两个标准（攻击强度和隐蔽性）刻画了攻击面。
提出了一种纯动作对抗攻击，直接驱使模型执行导致任务失败的动作。
提出了一种保持想象不变的对抗攻击，在保持预测未来接近干净想象的同时诱导有害的动作偏移，暴露了WAM的隐蔽性故障。

方法

BadWAM使用微小的视觉扰动攻击WAMs，实例化了两种攻击策略：一种破坏任务成功的纯动作攻击，以及一种在改变动作的同时约束未来预测漂移的保持想象不变的攻击。在闭环执行下对不同WAM变体进行评估，测量任务成功率。

关键结果

纯动作攻击将模型成功率从96.5%降至43.1%。保持想象不变的攻击在适度的未来保持正则化下仍保持强大的攻击性能，暴露了模型想象合理未来但执行不同步动作的脆弱性。

资源

论文