论文
SliceGraph:映射多运行思维链推理中的过程同分异构体
SliceGraph: Mapping Process Isomers in Multi-Run Chain-of-Thought Reasoning
摘要
多运行思维链(CoT)推理通常被压缩为最终答案的聚合统计,这丢弃了采样轨迹在中间计算中如何共享、分裂与重新汇合的信息。我们提出SliceGraph,一个事后构建的问题-模型-单元格图,它基于CoT切片之间稀疏激活键的Jaccard相似度、以互k近邻(mutual-kNN)方式构建,并将其作为过程几何的测量对象,而非解码程序。在数学与科学基准上、来自三个主要4B/8B模型的采样CoT集成中,盲测标注支持将SliceGraph的双连通分量视为共享推理状态单元、将过程家族视为家族内策略一致的路线单元。在954个问题-模型单元格中的85.5%里,共享同一归一化答案的正确CoT分裂为多个过程家族;在至少有两次此类运行的单元格中,平均76.6%的运行对为跨家族关系。我们将这类答案相同而家族分化的正确轨迹称为过程同分异构体(process isomers)。标签播种的奖励场提供了独立的价值地形层:与成功相关的区域常常分裂为互不相连的高价值核心,而路线家族在这些核心足迹上特化,而非彼此简单复制。类型化状态转移分析进一步表明,在匹配的零对照条件下,各过程家族以不同的转移核导航同一图谱。表示消融、一项跨架构复制和两项跨规模复制支持了路线家族骨架的稳健性,表明最终答案聚合忽视了这种结构化的多路线过程几何。
