论文
TinyAstral把演化后的教师Harness能力蒸馏到4B操作Agent
TinyAstral: Transferring Self-Evolving Harnesses to Tiny Generalist Manipulation Agents
摘要
基于视觉语言模型的机器人Agent,既依赖规划模型,也依赖其harness,即外围的工具、反馈、记忆和恢复逻辑。能否把大型教师模型harness的改进转移到推理计算成本更低的紧凑Agent?我们提出两阶段方法TinyAstral。首先冻结开放权重教师模型,通过递归自我改进(RSI)优化harness:由前沿LLM Agent读取教师执行轨迹并提出harness修改,只有通过配对统计检验的修改才被接受。随后冻结最终harness,收集包含推理与失败恢复的教师轨迹,蒸馏出小型学生模型,在同一harness中替换教师。在RoboTwin上,harness演化使教师成功率从33.4%提高到63.6%,最终4B学生达到62.8%。四个harness版本下,蒸馏后的4B学生都接近对应教师,后续版本产生更强学生,说明harness演化收益能够转移到紧凑模型。其收益也能无需重新训练就转移到其他冻结规划模型。在相同评估回合上,最终4B学生优于开放4B Agent、开放27B harness-RSI模型SenseNova-RoboRSI,以及放在三个竞争harness中的本研究教师模型。它在三个训练基准上均接近教师,在另外三个从未用于RSI或训练的基准上,接近使用同一harness的552B规划模型。在测量的部署回合中,它仅使用教师模型约五分之一的加速器时间。
