基于激活的情境学习主动学习：挑战和见解

深度主动学习之前曾针对 LLM 上下文样本选择进行过探索，但并未采用利用理解 Transformer 激活的最新进展的方法。在本文中，我们测试了模型激活可以提供细粒度信号来优化上下文示例选择的假设。我们使用 Llama-3.2-3B 和 Qwen2.5-3B 基本模型，对应用于上下文学习的基于 MLP 激活的深度主动学习方法进行了全面分析，包括不同的注意力掩蔽策略如何影响不同分类和生成数据集的主动学习。然而，我们发现了一个负面结果：从大规模激活或前四个时刻的角度来看，MLP 和嵌入层输出与示例质量或任务性能无关。具体来说，我们测试的所有任务和模型的绝对 Spearman 相关系数最多为 0.33，这表明这种基于激活的采样不应该用于上下文学习。我们假设这可能是由于叠加，即模型表示的特征多于其维度，这表明稀疏自动编码器（SAE）等方法可能是一个有前途的未来方向。