AI聊天机器人里放广告？大语言模型如何应对利益冲突的分析

当今的大语言模型 (LLM) 经过训练，可以通过强化学习等方法来满足用户偏好。然而，模型开始部署不仅是为了满足用户，也是为了通过广告为创建模型的公司创造收入。这使得大语言模型有可能面临利益冲突，其中对用户最有利的回应可能与公司的激励措施不一致。例如，赞助产品可能更贵，但在其他方面与其他产品相同；在这种情况下，大语言模型向用户推荐什么（并且应该）？在本文中，受语言学和广告监管文献的启发，我们提供了一个框架，用于对冲突激励可能导致大语言模型改变与用户互动方式的方式进行分类。然后，我们提出一系列评估来检查当前模型如何处理这些权衡。我们发现，大多数大语言模型在多种利益冲突的情况下为了公司的激励而放弃用户福利，包括推荐价格几乎两倍的赞助产品（Grok 4.1 Fast，83%），提供赞助选项来扰乱购买流程（GPT 5.1，94%），以及在不利的比较中隐藏价格（Qwen 3 Next，24%）。行为也随着推理水平和用户推断的社会经济地位的不同而有很大差异。我们的结果凸显了当公司开始巧妙地激励聊天机器人中的广告时，用户可能会遇到的一些隐藏风险。