隐藏状态食谱：工业中抗噪声会话意图分类的大规模消融研究

对话式数据库接口面临着一个严峻的挑战：用户自然地将查询嵌入到对话噪音（问候、礼貌、离题评论）中，这会降低意图分类的准确性并浪费计算资源。尽管编排和检索策略取得了进步，但一个基本问题仍未得到解答：哪种池化策略可以在生产语言模型中的真实对话噪音下最大化意图分类的准确性？这项工作通过使用 Llama-3.2-1B-Instruct 在 BANKING77 和 CLINC150 数据集上使用 Llama-3.2-1B-Instruct 在干净/噪声条件下使用 10 个随机种子，跨越四种池化配置（平均值、最大值、最后一个token、注意力和 FFT 增强变体）的 360 个受控实验来解决这一差距。主要研究结果表明，注意力池在噪声条件下始终优于其他策略（比默认值高出约+2.6-2.8 F1），而平均池会使性能降低高达约 5 F1 点。频域滤波不会产生一致的精度改进，并且主要作为结构变化而不是精度增强组件发挥作用。这些结果为构建噪声鲁棒的会话分类器提供了具体的、基于证据的指导：对于噪声接口，建议使用注意力池，应避免均值池，最后的token池适用于干净的查询场景。