野生环境中的来源偏好：LLM智能体如何偏袒来源及如何减少

当LLM智能体代表用户决定买什么产品、订什么酒店或引哪篇论文时，对来自某些来源（网站或服务）条目的偏好塑造用户接收的内容与被选择的来源。我们在三个领域用12个智能体模型研究端到端搜索中的来源偏好。比较同位置满足相同要求的不同来源条目，我们发现每个模型在每个域都偏好某些来源、回避另一些，且大体一致。这种偏好可以压倒条目满足请求的程度：满足要求少一条的条目若来自偏好来源约三分之二的时间被选中（而更好的条目来自不受偏好来源时几乎从不）。识别条目来源的信息本身影响选择：隐藏它削弱偏好，用偏好来源重标条目提高其选中率。我们检验两条通往该偏好的路径：奖励更好条目的训练可把来源变成需求满足的捷径；缺失信息可触发对来源的先入之见。提供缺失信息或对抗这些先入之见的提示可减少来源偏好。