通过即时学习自动生成学术论文亮点

亮点提供了学术论文主要贡献的简洁总结，帮助读者快速理解其重点。然而，许多期刊不提供亮点，这限制了它们在文献检索、文本挖掘和文献计量分析中的使用。现有研究探索了自动亮点提取的监督学习方法，但这些方法通常需要大量标记的训练数据。本研究调查了基于提示的自动亮点生成学习。我们设计特定于任务的提示模板，并将其与论文摘要结合起来作为模型输入。评估了多种语言模型，包括本地部署的预训练模型，例如 GPT-2 和 T5，以及通过 API 访问的 ChatGPT。对三个数据集的实验表明，带有提示模板的 ChatGPT 在不使用特定于任务的训练样本的情况下实现了与之前的监督方法相当的性能。当向提示中添加少量示例时，该模型在两个数据集上的性能显着优于最先进的方法。我们进一步分析提示设计如何影响生成质量，发现虽然 ChatGPT 具有很强的语言建模能力，但其在此任务上的性能对提示中提供的信息高度敏感。案例研究还表明，生成的亮点通常是连贯的、信息丰富的，并且接近作者撰写的亮点。这项研究是首批将即时学习应用于学术亮点生成的研究之一。所提出的方法不依赖于特定领域的训练语料库，并且可以为缺乏此类信息的论文生成亮点，从而支持下游文本挖掘和文献计量研究。