论文
论《大语言模型》类比的多样性
On the Diversity of Analogy Making in Large Language Models
摘要
大语言模型 (LLM) 在类比方面表现出了巨大的潜力,类比是一种驱动新颖性和创造力的核心认知能力。虽然先前的研究已经广泛调查了基于 LLM 的类比制作的应用和潜在机制,但其输出多样性在很大程度上仍未被探索,尽管对于扩大跨领域联系和促进科学创新至关重要。在这项工作中,我们对十个最先进的开源和闭源 LLM 的类比多样性进行了全面评估。我们的研究结果强调了域同质性的一个令人担忧的问题,LLM 从一组狭窄的目标域中生成类比的普遍趋势,限制了查询间和模型内的多样性。此外,我们的分析揭示了现有 LLM 多样性增强方法的基本权衡:增加输出多样性通常是以牺牲输出质量为代价的。最后,我们对 LLM 信息流的因果分析揭示了控制 LLM 类比多样性的模型敏感区域的显着差异,这表明了观察到的多样性与质量权衡的潜在机制。据我们所知,这是第一个系统地研究基于 LLM 的类比制作中输出多样性的研究之一。