XU-RS：解释随机集语言模型中的 Credal 宽度

不确定性估计告诉我们模型有多不确定，但没有告诉我们原因。如果不知道输入的哪些部分会影响模型的不确定性，我们就无法判断不确定性分数是否取决于与任务相关的输入特征。我们在使用预训练语言模型构建的随机集分类器中研究这个问题。这些分类器将概率分配给单个答案和答案组，为每个答案产生较低和较高的概率；这些概率之间的差异称为信条宽度，用于表示有限训练数据产生的答案的认知不确定性。我们提出了 XU-RS，一个将答案的凭证宽度归因于提供给语言模型的输入标记（单词或单词片段）的框架。 XU-RS 使用预期梯度（一种标准特征归因方法）来估计输入标记对凭证宽度的影响。使用 SmolLM3-3B 和 Llama-2-7B 模型在 MedQA 数据集上对所提出的框架进行评估，证明将 XU-RS 排名较高的词元的嵌入设置为零（零掩码）会导致凭证宽度的变化比零掩码随机选择的词元更大。此外，我们还表明标准化可以导致其他答案组影响答案的宽度，揭示标记归因如何掩盖数字错误，并提供诊断检查以验证 XU-RS 排名较高的标记是否有意义地解释模型不确定性。