论文

TinyAstral把演化后的教师Harness能力蒸馏到4B操作Agent

TinyAstral: Transferring Self-Evolving Harnesses to Tiny Generalist Manipulation Agents

模型优化智能体系统应用与实践Agent Harness智能体自我改进蒸馏机器人递归自我改进(RSI)

摘要

基于视觉语言模型的机器人Agent,既依赖规划模型,也依赖其harness,即外围的工具、反馈、记忆和恢复逻辑。能否把大型教师模型harness的改进转移到推理计算成本更低的紧凑Agent?我们提出两阶段方法TinyAstral。首先冻结开放权重教师模型,通过递归自我改进(RSI)优化harness:由前沿LLM Agent读取教师执行轨迹并提出harness修改,只有通过配对统计检验的修改才被接受。随后冻结最终harness,收集包含推理与失败恢复的教师轨迹,蒸馏出小型学生模型,在同一harness中替换教师。在RoboTwin上,harness演化使教师成功率从33.4%提高到63.6%,最终4B学生达到62.8%。四个harness版本下,蒸馏后的4B学生都接近对应教师,后续版本产生更强学生,说明harness演化收益能够转移到紧凑模型。其收益也能无需重新训练就转移到其他冻结规划模型。在相同评估回合上,最终4B学生优于开放4B Agent、开放27B harness-RSI模型SenseNova-RoboRSI,以及放在三个竞争harness中的本研究教师模型。它在三个训练基准上均接近教师,在另外三个从未用于RSI或训练的基准上,接近使用同一harness的552B规划模型。在测量的部署回合中,它仅使用教师模型约五分之一的加速器时间。

TinyAstral把演化后的教师Harness能力蒸馏到4B操作Agent:论文配图
图2:TinyAstral概览。阶段1:人类预先指定规则与预算。由前沿LLM Agent构成的主控读取冻结教师通过Harness(工具、反馈、记忆、恢复)执行的轨迹,并提出Harness修改。只有在选择种子上进行的配对A/B测试通过预注册统计门槛,修改才获接受;该阶段模型权重始终不变。阶段2:演进结束后冻结H∗,收集包含推理与恢复分支的教师轨迹,再与离线真实机器人监督混合,训练小规模学生模型(0.8B—4B),让其在同一Harness中替代教师。评估覆盖三个训练领域、三个未见基准,以及SO-ARM101机械臂上的三个闭环真实机器人任务。