论文

GCUL:通过集群引导学习进行文本情感分类中的歧义识别

GCUL: Ambiguity Identification in Text Emotion Classification via Cluster-Guided Learning

模型训练监督微调与指令调优

摘要

选择性分类使模型能够避免对不确定实例的预测,但现有方法通常通过置信度得分、预定义的覆盖约束或实例级距离度量来拒绝它们。这些方法可能会忽略学习表示空间中困难样本的集体几何结构。我们提出了基于引导聚类的不确定学习(GCUL),这是一种几何引导的选择性分类框架,可将错误分类和模糊的实例识别为表示空间中潜在的混淆吸引子。 GCUL 使用三阶段过程来初始化、聚类和明确地重新标记该不确定区域,从而允许拒绝边界从底层表示几何中出现,而不是从规定的拒绝率中出现。我们进一步得出选择性分数和几何充分条件,表征拒绝何时可以提供积极的操作效用,从而实现部署前可行性评估。 GCUL 将 DistilBERT 准确率从 89.37% 提高到 94.98%,拒绝率低于 9%。除了准确性之外,我们的选择性得分还正确地预先检测到所有基线均失败的唯一数据集 (GoEmotion),并且受控模拟产生 6.1% 的 I 类错误和 0% 的 II 类错误,从而验证了充分条件的保守性。这些结果表明,集体表示几何为选择性预测提供了有用的替代视角。