密封审计上的有符号压缩进展具有古德哈特抗性

arXiv 2026 49.3 method, theory

TLDR

证明密封审计有符号压缩进步具有古德哈特抗性通过累积奖励与有限审计界限实验验证

评分理由

The paper provides a rigorous theoretical proof and empirical validation on ARC-TGI, showing resistance to reward hacking. Strengths include clear formalization and mechanization; weakness is limited scope to sealed audits and specific model classes.

Read-first 评分解释

综合优先阅读分 49.3，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 17。

近期性 6%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

引用影响力 18%

95.4

使用 OpenAlex 形态的引用元数据作为文献关注度信号，并与论文本身质量分开处理。归一化引用分位：0.95367269

方法质量 18%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：分析、实验、结果

可复现性 18%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：无

主题相关性 29%

24.3

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：world model、world simulator、generative world model、interactive world model、video world model、world dynamics prediction、model-based reinforcement learning world model

引用速度 12%

引用速度按发表年限估算年均引用，降低旧论文天然占优的偏差。年均引用：0.00

研究版图角色

基础论文前沿论文桥接论文方法锚点

排序敏感性

稳定性：volatile；排名波动范围：402。

关键词评分

world model

model-based reinforcement learning world model

world dynamics prediction

world simulator

generative world model

interactive world model

video world model

深度分析

创新点

正式证明固定密封审计损失的符号减少会产生等于端点审计改进的望远镜奖励，使其具有Goodhart抗性。
有限审计界限与假阳性预算：累积经验奖励 ≤ 真实审计改进 + 2Δ_n(F,δ)，其中Δ_n是模型类的均匀审计偏差。
识别失败模式：裁剪、在智能体自身流上评分、在可重用面板上暴露于高容量模型、或应用于使Δ_n无效的神经类。
结构核心的Lean 4机械化（望远镜性质、有限审计界限、有限Gibbs、熵下限）。
在ARC-TGI网格变换生成器上使用自适应保留攻击的实验套件。

方法

本文提供理论分析，将内在奖励定义为固定密封审计损失的符号减少，证明望远镜性质将累积奖励与端点审计改进联系起来。对于有限审计面板，推导了使用均匀审计偏差Δ_n的界限。在ARC-TGI网格变换生成器上使用自适应保留攻击进行实验，测试符号进展对抗裁剪刷分、流泄漏、噪声电视好奇心和可重用审计。

关键结果

有限审计偏差按n^{-0.527}缩放；符号进展抵抗裁剪刷分、流泄漏和噪声电视好奇心；朴素可重用审计可被黑盒标量反馈利用，而标准发布防御将攻击保持在2Δ_n阈值以下。

局限性

如果进展被裁剪、在智能体自身流上评分、暴露于可重用面板上的高容量模型、或应用于使Δ_n无效的神经类，则保证消失。
结果依赖于密封审计和均匀偏差界限；对于非有限模型类或没有适当审计机制可能不成立。

技术栈

Lean 4ARC-TGI

资源

论文