DocQAC：自适应 Trie 引导解码，实现有效的文档内查询自动完成

查询自动完成 (QAC) 已在网络搜索的背景下得到了广泛研究，但对于文档内搜索（我们称之为 DocQAC）仍然没有得到充分的研究。 DocQAC 旨在通过帮助用户更快、更精确地进行查询（甚至对于复杂或难以拼写的术语）来提高长文档中的搜索效率。虽然全局历史查询可用于 WebQAC 和 DocQAC，但 DocQAC 可以独特地访问特定于文档的上下文，包括当前文档的内容及其用户查询交互的特定历史记录。为了解决这个问题，我们提出了一种新颖的自适应特里引导解码框架，该框架使用用户查询前缀来温和地引导语言模型实现高质量的完成。我们的方法引入了具有可调超参数的自适应惩罚机制，从而实现了模型置信度和基于特里结构的指导之间的原则性权衡。为了有效地整合文档上下文，我们探索了检索增强生成（RAG）和轻量级上下文文档信号，例如标题、关键短语和摘要。当应用于 T5 和 BART 等编码器-解码器模型时，我们的 trie 引导框架优于强大的基线，甚至在跨已见和未见文档的已见查询上超过了更大的指令调整模型（例如 LLaMA-3 和 Phi-3）。这证明了它对于现实世界的 DocQAC 部署的实用性，其中效率和可扩展性至关重要。我们在新引入的源自 ORCAS 的 DocQAC 基准测试上评估我们的方法，该基准测试丰富了查询文档对。我们公开了 DocQAC 数据集 (https://bit.ly/3IGEkbH) 和代码 (https://github.com/rahcode7/DocQAC)。