论文
迈向超长程 Agentic 科学：面向机器学习工程的认知积累
Toward Ultra-Long-Horizon Agentic Science: Cognitive Accumulation for Machine Learning Engineering
摘要
人工智能向 Agentic 科学迈进目前受制于超长程自主的挑战，即在跨越数天或数周的实验周期中维持战略连贯性与迭代修正的能力。尽管大语言模型（LLM）已展现短程推理的功力，但在真实研究那种高维、延迟反馈的环境中容易被执行细节淹没，无法将稀疏反馈整合为连贯的长期指导。本文提出 ML-Master 2.0，一个掌握超长程机器学习工程（MLE）——科学发现的代表性缩影——的自主智能体。通过将上下文管理重构为认知积累过程，我们的方法引入分层认知缓存（HCC），一种受计算机系统启发的多层架构，使经验随时间产生结构性分化。HCC 通过将瞬态执行轨迹动态蒸馏为稳定知识与跨任务智慧，让智能体将即时执行与长期实验策略解耦，有效突破静态上下文窗口的规模限制。在 OpenAI 的 MLE-Bench 上以 24 小时预算进行的评估中，ML-Master 2.0 取得 56.44% 的最先进奖牌率。我们的发现表明，超长程自主为能够超越人类先例复杂度进行自主探索的 AI 提供了可扩展蓝图。
