论文
CreativityNeuro：转向语言模型权重以改善发散思维
CreativityNeuro: Steering Language Model Weights to Improve Divergent Thinking and Reduce Mode Collapse
摘要
发散思维是创造力的关键面向——但大语言模型（LLM）倾向于对开放式问题持续生成相似响应——即所谓人工蜂群效应。本文中——我们介绍CreativityNeuro——经对比权重转向增强LLM发散思维的免数据方法。我们在多项创造力评估上评估该方法并报告若干主要发现。在发散联想任务（DAT）——词汇空间创造力测试——上——CreativityNeuro将性能提升至多14个人类百分位点。其次——在替代用途测试（AUT）与Task Task上的大规模人类评估（N=720）中——CreativityNeuro在原创性、惊喜度与创造力上取得显著改进——并迁移到更长、更开放的任务。重要的是——我们发现跨全部三个任务——CreativityNeuro可证明地降低模式坍缩的度量。此外——激活转向在DAT上取得与CreativityNeuro可比的性能——但不能迁移到AUT与Task Task——证明权重空间转向在泛化到未见任务上的有效性。总之——CreativityNeuro改善发散思维并降低模式坍缩——无需行为数据、重训练或基于梯度的微调——为增强LLM在创意领域的表现提供直接途径。
