论文
从混乱到清晰:用于文本分类的混乱感知检索和知识注入
From Confusion to Clarity: Confusion-Aware Retrieval and Knowledge Injection for Text Classification
摘要
大语言模型 (LLM) 很难将文本分类为具有许多语义相似标签的分类法,因为这些区别是特定于领域的,并且不能被 预训练 捕获。为了处理大型标签空间,一种常见的方法是通过嵌入相似性来检索 top-$K$ 候选标签,并提示 LLM 在其中进行选择。然而,top-$K$ 检索减少了候选者的数量,但无助于模型区分相似的候选者。当两个相似的标签都作为候选标签出现时,模型缺乏在它们之间正确选择的信号。我们提出了一个框架,该框架(1)识别模型难以区分哪些标签对,(2)扩展候选集以包括易混淆的标签,以及(3)生成有针对性的规则来区分相似的候选者。该框架不需要 微调,并且生成的规则转移到更小、更便宜的模型。在三个基准测试(WOS、Flipkart、LEDGAR)上,我们的方法将 Macro F1 比检索基线提高了 10.0pp,较小的模型 (2B--20B) 通过跨模型传输提高了 11.5pp。