温度如何塑造检索增强一代的意识形态话语？

检索增强生成（RAG）已被越来越多地采用来减少幻觉并加强 大语言模型（LLM）的事实基础。虽然已经探讨了检索过程中对错误的鲁棒性，但意识形态偏见对 LLM 输出的影响却被忽视了。例如，如果检索到的材料包含意识形态立场，RAG 可能会在其输出中传播、放大或压制此类意识形态话语。在本研究中，我们通过检查 RAG 框架（包括意识形态话语）在 LLM 生成的答案中的影响来解决这个问题。为此，我们对 1,117 篇 COVID-19 治疗文章的语料库应用了词汇多维分析 (LMDA)，识别出三种意识形态话语。然后将该语料库用作 RAG 的外部知识源。我们通过让模型在不同的采样温度下回答意识形态问题来评估几个 LLM。根据生成的文本与意识形态参考文本的相似性，对生成的文本进行语义和词汇评估。我们的研究结果表明，RAG 框架很容易将意识形态话语转化为 LLM 响应，采样温度对这种转移的强度具有可测量的影响。生成的答案和参考文本之间的话语一致性在中等温度下最高，其中模型平衡了随机性与检索基础，而在低温下下降，表明过度确定性采样抑制了话语转移。