TRL让GOLD教师利用额外上下文蒸馏同一段回答

GOLDTrainer用于知识蒸馏。此次以use_privileged_context显式启用额外上下文：数据集保留普通prompt和completion，并另有privileged_context字段；教师用单独模板补入信息，学生仍只接收原提示。对话数据只改写最后一个用户轮，系统、工具和助手轮保持原样，再以完全相同的completion token计算标准JSD。首版仅支持文本、off-policy训练且lmbda=0，不支持seq_kd、ULD/X-Token KD、packing、视觉语言模型或Liger组合。教师提示不截断，使用者须自行保证不超过教师上下文窗口。作者报告30项聚焦CPU测试通过，GPU完整实验未由该本地验证覆盖。