LLM 的神经元感知主动小样本学习

主动少样本学习 (AFSL) 通过识别最有价值的未标记样本进行注释并用作少样本演示，使 LLM 适应专业领域，有效降低人工注释成本，同时提高性能。然而，现有的方法通常依赖于输出级信号来进行样本识别，例如预测熵或基于外部嵌入的测试时数据的语义相似性，这通常会忽略模型的内部动态，而这可能会查明特定的知识差距。为了弥补这一差距，我们提出了 NeuFS，一种神经元感知的主动小样本学习框架，它将选择范式从输出级代理转变为模型的内部动态。 NeuFS 利用神经元激活模式直接表示样本，并包括双重标准选择策略，该策略：（1）通过神经元模式确保少样本样本多样性，以实现更广泛的示例覆盖范围，同时（2）优先识别信息丰富且具有挑战性的少样本样本 LLM 倾向于通过量化神经元共识来产生幻觉。对三个数据集的实验表明，NeuFS 在推理和文本分类任务中都表现出色，优于现有的 AFSL 基线。消融研究进一步强调，内部神经元激活比外部嵌入提供了更有原则性和更有效的选择信号，验证了所提出的 NeuFS 的优越性。