论文
无需训练 与 LLM 中基于训练的意图分类：准确性、鲁棒性和故障模式
Training-Free versus Training-Based Intent Classification in LLMs: Accuracy, Robustness, and Failure Modes
摘要
大语言模型 (LLM) 中的意图分类涉及将用户提示分类为预定义的类。例如，给定用户提示，系统必须确定它主要涉及数学、编码还是一般文本处理。这种分类可以将提示路由到针对特定领域优化的专门模型，从而提高准确性和计算效率。在这项工作中，我们进行了一项系统研究，比较 无需训练 与基于训练的意图分类方法。为此，我们考虑两种基于内部表示统计的轻量级 无需训练 方法，并将它们与 MLP 分类器和线性探针进行比较。我们全面的实证评估表明：1）无需训练 和基于训练的方法都饱和了简单的基准（数学、编码、自然语言），2）基于训练的分类器在较难的分类任务（例如 Java 与 Python）上具有优势，3）无需训练 方法通常对混合意图和对抗性提示更稳健。