PaperGym:以评分标准为中心的科研计划生成进化框架
TLDR
PaperGym将论文转化为基于评分标准奖励的强化学习环境,提升研究计划生成。
评分理由
The paper introduces a novel framework for research-plan generation and demonstrates clear gains over baselines with multiple models and benchmarks. However, the abstract does not provide details on limitations, real-world deployment, or failure cases, and some broader claims rely on benchmark-specific results.
Read-first 评分解释
综合优先阅读分 58,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。
研究版图角色
排序敏感性
稳定性:volatile;排名波动范围:28。
关键词评分
深度分析
创新点
- PaperGym利用论文结构,将每篇研究论文转化为完整的训练环境:问题从研究目标和背景中综合,标准则从方法和实验中推导。
- 这种分离将标准泄漏降至3.7%,而现有数据集为11.90%至34.10%,从而限制了通过改写进行奖励黑客攻击。
- 以评分标准为中心的训练调度两次使用评分标准:首先作为OPSD自教师的特权上下文,然后作为GRPO的奖励信号。
- 该工作发布了流程、包含20,000实例的语料库PaperGym-20k,以及基准PaperGym-Innov和PaperGym-Design。
方法
PaperGym通过从研究目标和背景综合问题、从方法和实验推导评估标准来构建基于单篇论文的训练环境,标准涵盖方法创新和实验设计。训练采用两阶段以评分标准为中心的调度:评分标准首先作为OPSD自教师的特权上下文,然后作为GRPO的奖励。该方法在Qwen3-1.7B/4B/8B上,与监督微调、单独任一阶段、相反顺序以及RubricHub Science进行对比,使用五个基准平均分、三方胜率和ResearchQA进行评估。
关键结果
标准泄漏降至3.7%,而现有数据集为11.90%至34.10%。该调度在Qwen3-1.7B/4B/8B上将五个基准平均分提高了+5.6、+5.0和+4.8分;基于PaperGym-20k训练的模型在三方比较中胜率58.1%,而RubricHub Science为28.2%;训练后的Qwen3-8B在ResearchQA上达到73.48,超过Kimi K2.6。