论文

DODR:潜空间中的确定性操作驱动推理

DODR: Deterministic Operator-Driven Reasoning in Latent Space

模型架构新型架构

摘要

自回归(AR)大语言模型将推理表述为逐token的概率采样,这在复杂逻辑推理中导致三个根本缺陷:错误累积、概率替代必要性以及线性链信息瓶颈。本文提出了一种潜空间中的确定性操作驱动推理架构(DODR),将推理重构为高维线性代数空间中的推理图计算。推理状态以快照向量表示,其基本单元为语义单元(短语或句子),而非token;每一步推理均为确定性矩阵运算,无需token采样。皮尔士的三种推理类型被形式化为三个可训练的矩阵运算:秩亏减法运算(信息坍缩)、满秩归纳运算(信息扩展)以及归约为 deduction 的莫尔-佩恩罗塞伪逆的溯因运算(信息假设)。我们证明,该运算集在皮尔士三元划分下是最小且完备的,不存在单一的"超级运算"能实现所有三种类型(存在秩障碍),且推理图在收缩反馈下收敛于巴拿赫不动点定理的解,具有图灵完备性。在503个样本记录(420个去重样本)上,涵盖专用与端到端设置的实验表明:归结损失收敛至1.40e-05;归纳在20/20个难例上实现零错误,泛化覆盖率达0.9996;溯因解在判断准确率上优于随机基线28倍,准确率分别为72.5%(58/80,95%置信区间[61.9%, 81.1%])和81.7%(49/60,CI[70.1%, 89.4%]);冻结运算在未见过的跨域归结任务中达到100%(60/60)准确率。该架构提供结构上的零幻觉保证和三层持续学习机制。所有数据和代码均已开源。