论文

通过两步验证增强生成信息提取:产品属性用例

Enhancing Generative Information Extraction with Two-step Validation: A Product Attribute Use Case

模型推理推理验证与自校正

摘要

大语言模型 (LLM) 处理和生成文本的能力为信息提取 (IE) 的应用带来了潜力。虽然 LLM 在分类任务方面是否优于较小的微调模型存在争议,但其强大的泛化能力使其有望用于 微调 可用标记数据有限的领域。这一优势对于数字产品护照 (DPP) 的新兴应用尤其重要,其中问题空间广泛,但特定领域的数据仍然稀缺。受此用例的推动,我们将生成式 IE 应用到产品领域,明确解决效率、通用性和数据隐私约束。我们提出了一种两步验证方法,将 PLM 块集成到生成 IE 管道中,从而利用 LLM 的校正功能。我们发现这样的验证任务增强了 LLM 的性能,特别是在提取在整个文本中稀疏出现的弱表达、低显着性实体方面。对于某些实体,中型模型的性能甚至可以达到与大型模型相当的水平,并且第一步 PLM 预测的改进也增强了最终的 LLM 输出。然而,对最小的开源LLM(例如Llama-3.2 3B)的影响是有限的。根据研究结果,我们开发了一个用于产品信息提取的演示应用程序,该应用程序利用本地部署的 LLM,旨在进一步适应现实世界的 DPP 用例。