论文

包容性思想:通过净化决策空间减轻偏好的不稳定性

Inclusion-of-Thoughts: Mitigating Preference Instability via Purifying the Decision Space

模型推理推理策略与问题分解

摘要

多项选择题 (MCQ) 广泛用于评估 大语言模型 (LLM)。然而,LLM 仍然容易受到看似合理的干扰因素的影响。这通常会将注意力转移到不相关的选择上,导致正确答案和错误答案之间不稳定的振荡。在本文中,我们提出了思想包容(IoT),这是一种渐进式自我过滤策略,旨在减轻这种认知负荷(即,在干扰因素存在的情况下模型偏好的不稳定性),并使模型能够更有效地专注于看似合理的答案。我们的方法仅使用合理的选项选择来重建 MCQ,为检查比较判断提供受控设置,从而提供扰动下模型内部推理的稳定性。通过明确记录此过滤过程,物联网还增强了模型决策的透明度和可解释性。广泛的实证评估表明,物联网以最小的计算开销极大地提高了一系列算术、常识推理和教育基准的思维链性能。