多路径 LLM 推理的多样性组合

多路径推理方法，例如自洽（SC）样本 $K$ 推理路径并选择最常见的答案。然而，随着 $K$ 的增加，它们的收益很快就会趋于稳定，并且现有方法无法预测何时会出现这种饱和。我们将多路径 LLM 推理形式化为无线通信的分集组合问题：每条路径都是一个噪声信道观察，路径正确性的成对相关性将投票的设计效果有效样本大小限制在有限的上限。广义最小二乘 (GLS) 分析表明，在可交换性下，潜在嵌入的最佳对称线性组合器是统一的，支持多数投票作为标准 SC 中的自然默认值，同时为异构提示模板分支下的加权或修剪留出空间。在 5 个模型和 12 个基准测试中，提示模板多样性降低了 57个有效单元格中 55个的路径相关性，对开放式 QA 的影响最强。我们推导出一个自适应-K 规则，该规则使用四路径引导来选择 $K^*$，在数学、QA 和 NLU 中保留 MV@$K{=}32$ 的 MV@$K{=}32$ 准确度的 $96$--$103\%$。