论文

GRaSp:低数据任务中情境学习的自动示例优化

GRaSp: Automatic Example Optimization for In-Context Learning in Low-Data Tasks

上下文与知识上下文工程

摘要

上下文学习使 大语言模型 能够适应新任务,但其性能对所选示例高度敏感。在缺乏高质量示例的特定领域、低数据环境中,找到有效的演示尤其困难。我们提出了 GRaSp,一个用于自动上下文示例优化的三阶段框架。通过首先生成一个大型综合候选池,然后通过聚类和降维来构建它,最后使用遗传算法找到上下文中的最佳示例,该框架在 NER 任务上显示出一致的改进。我们还引入了一种定制的多样性自适应突变机制,使其能够随着种群收敛从最初广泛的簇间探索过渡到集中的簇内细化。我们在金融命名实体识别 (FiNER-139) 上评估 GRaSp,比较池大小为 500 和 5000 的合成候选池和人工注释候选池。使用非合成数据,GRaSp 实现了 45.84% 的 micro-F1,始终优于零样本和随机少样本基线。合成数据与随机基线匹配但不超过它,这表明候选池中的分布多样性对于泛化至关重要。