论文
老师什么时候应该搬家?时间耦合和自身稳定性 同策略 蒸馏
When Should the Teacher Move? Temporal Coupling and Stability in Self On-Policy Distillation
摘要
自 同策略 蒸馏 针对从其自身参数历史导出的教师训练学生策略,但教师的更新时间表(控制教师和学生之间的 emph{时间耦合})尚未作为稳定性变量进行系统研究。通过对 Qwen3-8B 进行受控的时间表扫描,我们确定 \emph{隔离期}(定义为更新之间教师完全冻结)是实现稳定学习的关键结构属性,而不是教师年龄。为了表征这些潜在的训练动态,我们引入了时间 KL 结构、刷新冲击和长尾风险的诊断框架。该框架进一步揭示了\emph{状态遗忘崩溃}:最佳的短期固定时间表在长期训练下会灾难性地失败,因为时钟驱动的刷新可以通过一个不可逆的步骤将瞬态漂移的学生复制到教师中。这种失效模式在短期评估下是不可见的,并且在机制上与 EMA 的慢性污染不同。为了解决这个问题,我们提出\emph{巩固门控教师刷新}(CGTR),它保留隔离期,同时根据奖励改进和长尾安全的联合证据对每次刷新进行门控,确保每个教师动作响应真正的学生巩固而不是时钟信号。通过单个共享参数集并且无需按数据集重新调整,CGTR 实现了 \textbf{零崩溃} 和所有四个任务(化学、生物学、物理、工具使用)的最佳最终分数,根据每个任务的学习动态自行调节其刷新频率。