潜在相移回滚:通过残余流监控和 KV 缓存转向进行推理时纠错
Latent Phase-Shift Rollback: Inference-Time Error Correction via Residual Stream Monitoring and KV-Cache Steering
摘要
大语言模型 经常在生成中期犯下不可恢复的推理错误:一旦采取了错误的步骤,后续的标记会加剧错误而不是纠正错误。我们引入 $\textbf{潜在相移回滚}$ (LPSR):在每个生成步骤,我们在关键层 lcrit 处监视残余流,通过余弦相似性 $+$ 熵双门检测突然的方向反转(相移),并通过回滚 KV 缓存并注入预先计算的转向向量来响应。不需要 微调、梯度计算或额外的前向传递。 LPSR 在 MATH-500 上使用 8B 模型实现了 $\mathbf{44.0\%}$,而标准 AR 模型为 $28.8\%$($+15.2$ pp;McNemar $χ^2 = 66.96$,$p < 10^{-15}$)。重要的是,提示自我修正,最自然的推理时间基线,得分仅为 19.8\%$,低于标准 AR; LPSR 超过它 $+24.2$ pp ($χ^2 = 89.4$, $p \approx 0$)。 LPSR 的性能还优于 Best-of-16 ($+7.8$ pp),词元成本降低了 $5.4\times$,并且超过了标准 70B 模型 ($35.2\%$),参数减少了 $8.75\times$,词元预算 的 ${\sim}3\times$。 32 层扫描揭示了一种新颖的 \textbf{检测校正分离}:错误检测 AUC 在第 14 层达到峰值($0.718$),但任务准确度在第 16 层达到峰值($44.0\%$ vs.\ $29.2\%$),这表明检测和校正的最佳监控深度不同。