GIANTS: 从科学文献中生成性洞察预测
TLDR
提出洞察预测任务和GiantsBench基准;用强化学习训练GIANTS-4B从父论文预测下游论文洞察。
评分理由
Strengths: novel task, large benchmark across domains, strong empirical results with human evaluation and citation impact prediction. Weaknesses: limited to insight generation from parent papers, not full automated discovery; reliance on LM judge may introduce bias.
Read-first 评分解释
综合优先阅读分 49.9,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 42。
研究版图角色
前沿论文方法锚点
排序敏感性
稳定性:volatile;排名波动范围:42。
关键词评分
深度分析
创新点
- 引入洞察预测(insight anticipation)这一生成任务,从父论文预测下游论文的核心洞察
- GiantsBench基准,包含八个科学领域的17k个示例,用于评估洞察预测
- GIANTS-4B,一个通过强化学习训练的LM,使用LM评判器的相似度分数作为代理奖励
- 评估方法结合了与人工评分相关的LM评判器相似度以及用于成对比较的引用影响模型(SciJudge-30B)
方法
本文定义洞察预测为从基础父论文生成论文的核心洞察。构建了包含八个领域17k个示例的GiantsBench,并通过强化学习训练GIANTS-4B,使用LM评判器对生成洞察与真实洞察的相似度分数作为奖励。评估包括LM评判器相似度、概念清晰度的人工评分,以及预测引用影响的SciJudge-30B的成对偏好。
关键结果
GIANTS-4B优于专有基线,在相似度分数上比gemini-3-pro实现34%的相对提升,并泛化到未见领域。人工评估显示其洞察更概念清晰,SciJudge-30B在68%的成对比较中偏好GIANTS-4B的洞察。
技术栈
language modelsreinforcement learningLM judgeSciJudge-30B