Matryoshka Agent：展开子智能体以应对长时程机器学习工程

机器学习工程（machine learning engineering，MLE）任务需要在昂贵且反馈驱动的环境交互下，对迭代式的方案调试与改进进行长时程决策。为此类任务开发和训练单体智能体从根本上就很有挑战，因为它必须同时管理极长且嘈杂的上下文、探索庞大的解空间，并在有限的模型容量与计算预算下保持有效。为应对这些挑战，我们提出Matryoshka Agent，一个面向复杂长时程任务的统一分层智能体框架。Matryoshka Agent将智能体式问题求解分解为决策与执行的协同层级：高层的Orchestrator维护紧凑的长时程探索状态并下达战略性指令，低层的Sub-Agents则通过由标准化Tool接口中介的直接环境交互执行具体的方案尝试。这一设计将策略性探索与高成本执行解耦，大幅减轻长上下文推理负担，并支持高效的迭代改进。我们还为Matryoshka Agent开发了一种高效的训练范式。在覆盖多样模型类型与规模的大量MLE任务上的实验结果表明，Matryoshka Agent是长时程MLE任务与复杂智能体问题求解的一种有效且可扩展的范式。值得注意的是，Matryoshka Agent使Qwen3-4B-Instruct达到与o4-mini相当的Orchestrator性能。将Matryoshka Agent应用于Qwen3-30B-Coder最多带来36.7%的相对性能提升。