论文

EdgeLM:语言模型表理解的边缘演示

EdgeLM: Edge Demonstrations for Language Models' Table Understanding

上下文与知识检索增强

摘要

大语言模型 (LLM) 通过上下文学习执行以表为中心的预测,使得演示选择对性能至关重要。现有的检索方法优先考虑与查询的相似性,但类似的演示通常会强化模型的可能预测,而不是揭示困难决策所需的区别。我们提出了 EdgeLM,一种检索框架,它选择边缘证据,即与查询相关并提供有关决策边界的信息的演示。 EdgeLM 通过选择数据边缘、具有不同 真值 标签的附近示例和模型边缘(之前被部署的模型错误分类的类似示例)来检索两种互补形式的边缘证据。 EdgeLM 既不需要模型重新训练,也不需要特定于任务的工程。在五个数据整理任务、十五个数据集以及五个开放权重和专有的 LLM 中,EdgeLM 在每种设置中始终实现最佳或接近最佳的性能,而消融表明两种形式的边缘证据提供了互补的优势。我们的代码和数据集可在 https://github.com/soroushomidvar/EdgeLM 上公开获取。