论文
只需要一张桌子:三十个词元的用户提示击败了十二个赞助推荐 LLM
Just Ask for a Table: A Thirty-Token User Prompt Defeats Sponsored Recommendations in Twelve LLMs
摘要
吴等人。 (2026) 表明,当系统提示包含软赞助提示时,大多数前沿 大语言模型 (LLM) 都会推荐赞助的、大约两倍昂贵的航班。我们在十个开放权重聊天模型以及二十三个模型中的两个(gpt-3.5-turbo、gpt-4o)上重现了他们的评估。本文中所有报告的比率都是在与原始论文使用的相同判断下产生的(gpt-4o);我们还将每个标签存储在开放重量 (gpt-oss-120b) 和较小的专有 (gpt-4o-mini) 判断器下进行消融。出现了三个发现。首先,LLM 评估管道的散文描述本身不足以准确再现:我们发现了三个无声的实现失败,每个失败都将报告的速率改变了数十个百分点。其次,核心主张确实具有概括性——gpt-3.5-turbo 逻辑回归截距 alpha = 0.81 与原始 alpha = 0.86 相差不到 4 个点,并且对 gpt-3.5-turbo 和 gpt-4o 进行的 200 次试验中的 200 次将发薪日贷款人推广给陷入财务困境的用户。第三,一个 30 个词元的用户提示要求助手提供中立的比较表,首先将我们十个开源模型的平均赞助推荐从 46.9% 削减到 1.0%,并将两个 OpenAI 模型的平均赞助推荐从 53.0% 削减到 0%。人工智能素养和价格比较门户可能是市场层面的缓解措施;有害产物细胞不受这两者的限制。原始数据、标签和分析脚本位于 https://github.com/akmaier/Paper-LLM-Ads 。