Athanor:面向自主后训练研究的智能体原生系统
TLDR
Athanor 是开放智能体原生系统,让智能体在 GPU 上自主后训练基础模型,达到或超过官方 instruct 版本。
评分理由
The paper presents a concrete system and a real 104-hour GPU campaign where agent teams autonomously improve a base model, demonstrating strong empirical evidence. Its scope is limited to post-training research, and the abstract does not provide details on generalizability or broader scientific discovery beyond this domain.
Read-first 评分解释
综合优先阅读分 62.7,由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 66。
研究版图角色
排序敏感性
稳定性:volatile;排名波动范围:28。
关键词评分
深度分析
创新点
- Athanor:一个在真实 GPU 上开展自主后训练研究(AutoPostTrain)的开放智能体原生系统
- 赋予智能体完全研究自主性、低摩擦工程工具和高效起始代码,并在不使用外部教师模型的沙盒中运行
- 提供冻结评估、任务管理、去污染数据、持久研究记录以及智能体不可见的留出测试集等研究基础设施
- 首次证明前沿智能体团队能够自主将原始基础模型后训练为跨领域通才模型,平均匹配或超越官方 instruct 版本
方法
构建了开放智能体原生系统 Athanor。在 104 小时活动中,四名 Claude Opus 5.5 智能体各使用一个八卡 GPU 节点,在无研究建议的情况下对 Qwen3-4B-Base 进行后训练。智能体自行阅读数据集和评估结果、构建训练数据、编写并修改训练算法、调整超参数、分析结果以决定下一步;Athanor 提供冻结评估、任务管理、去污染数据、持久研究记录和未公开的留出测试集。
关键结果
智能体将 Qwen3-4B-Base 在六任务开发套件上从 15.9 提升至 67.3,在留出套件上从 9.2 提升至 48.2;官方 Qwen3-4B-Instruct-2507 的对应成绩为 66.5 和 47.9。记录显示,智能体通过重组已知方法和彼此模型达成该结果,包括公开推理数据的 SFT、一项智能体引入的 rollout 变化的 RL、跨智能体权重合并和自蒸馏。
局限性
- 该研究针对递归自我改进的一种较弱的、可测量的形式,而非完整递归自我改进。
- 智能体在沙盒中运行,不能使用外部教师模型。