论文

Agentic 用夜间科学增强科学思维的创造力

Reinforcing Agentic Creativity in Scientific Ideation with Night Science

模型训练强化学习Agentic RL

摘要

大语言模型(LLM)擅长结构化、可验证的任务,但它们的低熵偏差可以产生同质且可预测的输出,限制了它们在开放式科学构思中的实用性。然而,有效的发现涵盖了更广泛的创造性范围:从结构化的白天科学到结构松散、偶然的夜间科学,这些科学所得出的想法超出了通常考虑的范围。我们介绍 AI Night-Scientist,这是一个 agentic 框架,它使用强化学习来教导模型何时以及如何偏离可预测的推理。以认知科学为基础,我们沿着三个轴对创造力进行建模:行动(做什么以及如何创造性地做)、过程(何时探索与利用)和结果(由此产生的想法的新颖性和实用性)。我们使用这些轴通过 GRPO 来训练模型,在整个训练过程中让它们接触到不同程度和形式的创造力。这产生了更加多样化的科学提案,与基本模型相比,研究方向范围扩大了 27.8%,贡献类型扩大了 14.9%。它还将预测的引用影响力提高了 32.0 个百分点,将原创性提高了 66.2 个百分点。这些增益不能通过简单地提高解码温度来重现;相反,我们发现指定追求何种创造力的语义指导至关重要。总的来说,我们的研究结果表明,创造力是一种可学习的、多层次的能力,可以帮助研究人员获得LLM通常探索的想法之外的想法。