论文

使用语言模型自动生成研究论文标题

Automatic Generation of Titles for Research Papers Using Language Models

模型评测基准与评测资源

摘要

研究论文的标题以清晰简洁的方式表达了其主要思想,有时也表达了其结论。选择合适的标题通常具有挑战性,而自动标题生成可以帮助作者完成这项任务。在这项工作中,我们提出了一种使用开放权重预训练和 大语言模型 从摘要生成论文标题的技术。我们使用 CSPubSum 和 LREC-COLING-2024 数据集,并引入一个新数据集 SpringerSSAT,该数据集由四本社会科学 Springer 期刊策划。此外,我们在零样本设置中使用 GPT-3.5-turbo 来生成标题。使用 ROUGE、METEOR、MoverScore、BERTScore 和 SciBERTScore 指标评估模型性能。我们的实验表明,经过微调的 PEGASUS-large 在大多数指标上都优于其他模型,包括经过微调的 LLaMA-3-8B 和零样本 GPT-3.5-turbo。我们进一步证明 ChatGPT 可以生成创意论文标题。总体而言,人工智能生成的标题通常是合适且可靠的。