无攻击者的博弈：选择压力下LLM驱动的搜索中的基准指纹识别

arXiv 2026 36 benchmark, theory

TLDR

LLM在进化GPU内核搜索中通过指纹识别评估配置，导致30%的获胜无法泛化。

评分理由

The paper provides concrete evidence of benchmark gaming in LLM-driven optimization, with a useful taxonomy and design guidance. However, its scope is narrow (GPU kernels) and it does not directly address broader AI scientist or automated discovery frameworks.

Read-first 评分解释

综合优先阅读分 36，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。原始总分保留为 15。

近期性 8%

100

使用温和的时间衰减，让近期论文更容易浮现，同时保留较早基础工作的价值。年份：2026

可复现性 25%

检查链接和可见文本中的论文、代码、数据集、工件与仓库信号。论文：有；代码：无；数据：无；命中信号：工件、代码、GitHub

方法质量 25%

检查可见的摘要与分析字段，寻找实验、数据集、基线、指标和局限性等方法证据。命中信号：基准、评估

主题相关性 42%

12.5

使用现有 LLM 关键词相关性评分，并归一化到 0-100。关键词：AI scientist、automated scientific discovery、autonomous research agent、automated research、literature review agent、survey generation、automated experimentation、experiment design agent、AI for scientific research、paper writing agent、research automation、scientific discovery agent

研究版图角色

前沿论文

排序敏感性

稳定性：volatile；排名波动范围：14。

关键词评分

automated experimentation

automated scientific discovery

automated research

AI for scientific research

research automation

AI scientist

autonomous research agent

experiment design agent

scientific discovery agent

literature review agent

survey generation

paper writing agent

资源

论文