GradCuit：信用分配的梯度流实现稳健且可解释的测试时潜在推理

基于优化的潜在推理通过在测试时优化特定于实例的连续状态同时保持模型参数冻结来改进 大语言模型 输出。然而，现有方法通常通过解码的标记将这些状态连接到推理轨迹，从而使序列级信用分配变得间接，并模糊了潜在更新如何塑造后续推理。我们引入了 GradCuit（通过电路的梯度），它在提示的隐藏表示和生成的延续之间的选定 Transformer 层插入可优化的潜在状态。因果自注意力通过剩余的 Transformer 块为每个连续词元对数概率提供了通往每个先前潜在状态的可微路径，从而使整个连续的奖励加权梯度能够直接分配给潜在状态。在五个指令调整的主干、三个推理基准和两种答案格式中，GradCuit 的平均准确率达到 64.5%，比思维链提示高出 6.6 个百分点，比最强的竞争方法高出 2.4 个百分点。 GradCuit 还表现出更高的鲁棒性：在七种学习率设置中，它始终优于 LatentSeek，同时将准确度的标准差从 1.53 降低到 0.82，甚至它的随机游走变体仍然与 LatentSeek 具有竞争力。为了可解释性，词元级 梯度归因揭示潜在影响集中在推理连接器标记上，而层分析将早期到中期的 Transformer 层识别为最有效的优化空间。通过直接优化结果反馈的内部推理，GradCuit 开辟了一个稳健且可解释的测试时间缩放的新轴，其中 LLM 适应推理方式，而不仅仅是重新生成、采样或重新排序输出。