UCS：估计看不见的覆盖范围以改进情境学习

情境学习 (ICL) 的性能很大程度上取决于提示中放置的演示，但大多数现有选择器优先考虑相关性或多样性的启发式概念，并且对演示集的覆盖范围提供有限的洞察。我们提出了 Unseen Coverage Selection (UKS)，一种 无需训练，子集级覆盖先验，其动机是一个好的演示集应该将模型暴露给当前选择的子集未揭示的潜在集群。 UCS 通过以下方式实现这一想法：(1) 从模型一致的嵌入中引入离散的潜在簇，以及 (2) 通过平滑的 Good-Turing 估计器从其经验频谱估计候选子集中未显示的簇的数量。与以前的选择方法不同，UCS 是基于覆盖范围和 无需训练 的，并且可以通过简单的正则化目标与依赖于查询和独立于查询的选择基线无缝结合。使用前沿 大语言模型 对多个意图分类和推理基准进行的实验表明，在相同的选择预算下，使用 UCS 增强强大的基线可以持续将 ICL 准确性提高高达 2-6%，同时还可以深入了解任务和模型级别的潜在集群分布。代码可在 https://github.com/Raina-Xin/UCS 获取。