IdeaAnchor：教语言模型把文献转化为研究想法

科学研究通常从综合一系列相关论文中的想法开始，以找出差距并制定新的方向。然而，执行这种形式的基于文献的构思的训练语言模型仍然具有挑战性，因为基于提示或反馈的现有方法缺乏对如何合成论文的结构化监督。我们引入了 IdeaAnchor，这是训练 LLM 的范例，用于使用结构化规范作为特权信号来执行研究构思。每个 IdeaAnchor 实例都对如何将每个输入论文合成为一个成功的想法进行编码，包括它们的功能角色、关系和目标合成标准。我们通过挖掘已发表论文中的实例来构建这个范式，捕捉真实想法如何从先前文献中出现。然后，我们通过演示、自蒸馏和强化学习来训练模型，并在推理时通过检索进一步增强生成。实验表明构思质量不断提高。我们的分析揭示了功能分解：基于锚的训练加强了创造性合成，检索增强了细节阐述，并将两者结合起来产生最佳性能。