论文

CALR:用思维渲染压缩锚定连续潜在推理

CALR: Continuous Anchored Latent Reasoning via Render-of-Thought Compression

模型推理推理策略与问题分解

摘要

视觉潜在推理将渲染的推导压缩为紧凑的中间状态,减少文本推理开销。现有方法的不同之处在于它们表示这些状态的方式:连续方法避免了词汇限制,而离散方法通过量化为有限码本来提高准确性。我们对代表性连续和离散系统的分析确定了两个功能要求:答案必须依赖于潜在状态,并且这些状态必须携带有效的、针对特定问题的推理。尽管推理内容崩溃,连续的 潜变量 仍会影响答案,而离散的 潜变量 保留答案预测很大程度上绕过的可恢复的中间推理。为了应对这些挑战,我们提出了连续锚定潜在推理(CALR),它通过功能锚定将潜在形成与答案使用联系起来。参考信息平衡压缩中的 潜变量,CALR 将潜在中介答案监督与推导级语义锚定结合起来:前者通过中间状态路由答案监督,而后者将其解码内容基于特定问题的推导。并行自回归课程通过根据生成的前缀调节后续潜在块来开发顺序推理。对跨模型系列的五个数学推理基准的评估显示出显着的准确性提升。在匹配的预算下,CALR 比可比较的连续潜在推理方法提高了 26.0 个百分点。进一步分析表明,其潜变量支持答案预测,并承载针对特定问题的中间推理。

CALR:用思维渲染压缩锚定连续潜在推理:论文原图
图 3:CALR 训练框架:功能锚定,然后是并行起草和自回归细化。紫色虚线路径表示统一的内部读取器路径。