论文

办公任务后训练改善软件工程:跨领域迁移的行为解释

Post-Training on Office Work Improves Software Engineering: A Behavioral Account of Cross-Domain Transfer

模型评测模型行为与机制分析

摘要

长期任务要求代理在嵌套和分支的工作中保持一致的状态和目标。我们称之为目标导向执行(GDE):重复应用四种行为,即选择目标、构建与更高层次目标相关的状态、保持对更高层次目标的忠实性以及验证完成情况。我们假设长期的任务训练会增强这些行为。我们通过在363个长期任务(LHMTA)上训练Qwen3.5-122B-A10B来测试这一假设。这些任务来自办公工作流,数据中不包含软件工程任务。该模型在SWE-Bench Pro上的通过率提高了5.8个点。轨迹匹配分析显示,在办公室工作流程和软件仓库中,所有四个GDE行为都有所提高。SWE-Bench Pro的汇总统计表明,相关信息收集、实施和验证等方面发生了变化。总的来说,这些结果支持一种行为解释,即长期的任务训练改变了模型在任务之间组织和应用知识的方式,其影响超出了训练域。

办公任务后训练改善软件工程:跨领域迁移的行为解释:论文配图
图2:任务被展开为目标树。订阅审查任务分解为分支子目标;不同分支继续分解到不同深度,最终使智能体到达具体工作。