MLExpert：迈向自主机器学习工程的通用智能体模型
TLDR
提出MLExpert，一个35B MoE智能体模型，通过分层SFT和窗口交互RL实现自主长时MLE优化。
评分理由
The paper proposes a novel post-training method (WIRL) for autonomous ML engineering agents, addressing long-horizon experimentation with outcome-guided supervision. However, the abstract lacks concrete experimental results, baselines, or limitations, making empirical validation unclear.
Read-first 评分解释
综合优先阅读分 53.5，由主题、引用、图谱、方法、可复现性和近期性等信号加权得到。 原始总分保留为 51。
研究版图角色
排序敏感性
稳定性：volatile；排名波动范围：41。
关键词评分
深度分析
创新点
- 面向自主长时机器学习工程优化的后训练方法
- MLExpert，一个使用所提方法训练的35B Mixture-of-Experts智能体模型
- Kaggle-MLE Factory，用于构造可执行任务和模型驱动实验交互框架
- 分层智能体SFT，利用结果引导的监督将通用工具使用和编码能力迁移到MLE
- 窗口交互强化学习（WIRL），将连续实验结果之间的多轮决策分组为执行窗口，并分配共享的基于结果的奖励
- 异步采集与策略修正，支持在轨迹结束前进行策略更新
方法
MLExpert是一个35B Mixture-of-Experts智能体模型，使用所提出的面向自主长时MLE优化的后训练方法进行训练。作者通过Kaggle-MLE Factory构造可执行任务和模型驱动实验框架，然后应用带结果引导监督的分层智能体SFT和窗口交互强化学习（WIRL）；WIRL将实验结果之间的决策窗口分配共享的基于结果的奖励，并支持异步策略修正。在MLE-Bench Lite上的评估使用平均奖牌率，并与基础模型及更大的前沿模型Kimi-K3和GLM-5.3进行比较；此外还在NatureBench Lite、智能体脚手架优化和算法优化上进行了进一步测试。
关键结果
在MLE-Bench Lite上，MLExpert将平均奖牌率从基础模型的37.9%提升到72.7%，达到与Kimi-K3、GLM-5.3等更大前沿模型相当的性能。进一步实验表明，MLExpert在NatureBench Lite、智能体脚手架优化和算法优化上均有性能提升，说明所学优化能力具有泛化性。
局限性
- 摘要未明确说明MLExpert或所提训练方法的具体局限或失败模式。
- 对其他任务的泛化仅由所报告的实验提示，尚未被确证。