论文
学习面向科学影响力的创意生成
Learning to Ideate for Scientific Impact
摘要
科学创意生成日益由大型语言模型中介,但当前的创意生成系统通常在可立即评判的代理指标(如新颖性、清晰度和可行性)上训练和评测。这留下一个开放问题:科学采纳的延迟信号能否用作反馈,引导模型走向具有更高预期影响力的研究方向。我们以引用归一化影响力作为学术采纳的嘈杂但可扩展的代理来研究这一问题。我们从超过10万篇计算机科学论文构建了一个大规模数据集,抽取目标条件的创意描述,并为每篇论文分配序数的、按年份归一化的引用标签。然后我们训练一个目标条件的奖励模型,从研究目标和创意对预测引用影响力标签,并使用该奖励通过监督微调加强化学习来对齐创意生成器。为减少循环性,我们用留出的、基于参照的协议评测生成的创意:在同一研究目标下把模型输出与历史创意比较,并按参照创意的引用影响力标签加权评判。实验表明,我们的RL调优模型持续产生估计影响力高于基座模型和监督微调基线的创意。我们的发现把科学影响力定位为在开放式科学发现中对齐LLM的实用、基于结果的反馈信号。
