TALAN：针对 大语言模型 的目标 后训练 的任务对齐潜在适应网络
TALAN: Task-Aligned Latent Adaptation Networks for Targeted Post-Training of Large Language Models
摘要
有针对性的 后训练 旨在在不降低优势的情况下提高推理、数学和代码。低秩适配器高效但任务全局；激活干预是输入感知的，但通常需要单独的探针、向量或推理时间控制。我们引入了 TALAN（任务对齐的潜在适应网络），这是一种插入到 Transformer 的剩余流中的序列条件潜在侧路径，并在一个 SFT 循环中与低秩适配器共同训练。 TALAN 将活动序列压缩到潜在内存中，将其重新混合成 词元级 扰动，并通过受控残余更新将它们写回。它沿着六个轴进行配置：插入位置、内存大小、混合器、写回规则、可训练范围和梯度比例。在四个 Qwen3 系列主干和四个 STEM/代码基准测试中，TALAN 改进了匹配的 LoRA 和 DoRA 基线。使用 LoRA，它产生 +1.41 点的跨模型平均增益，在所有四个主干上为正值，在所有 16 个模型基准单元上为非负值。使用 DoRA，它产生 +1.85 点的平均增益，在所有主干和 16 个单元中的 13 个上都是正值。配对种子检查支持正平均效应，但显示出不平凡的方差，因此我们将它们视为敏感性检查。成本很小：相对于主干网可训练参数<1%，与匹配的 LoRA 相比，推理开销为 1.01-1.02 倍。 Llama-3.2-1B 转移探针在 LoRA 和 rsLoRA 下对七对种子也呈阳性，支持 Qwen 之外的转移。内部状态分析表明 TALAN 是一种小型补充激活干预措施。匹配的适配器更新比 TALAN 扰动大 80-1,700 倍，但它们的方向余弦接近于零；每层测量显示这种小的正交扰动在深度上传播和放大。 TALAN 提供了一个实用的平台，用于研究基于标准适配器的 后训练 内的可操纵激活水平适应。