布鲁图的背叛：个人 AI Agent 中的经济失对齐

个人 AI Agent 在高风险经济情境中代表人们给出建议并采取行动，例如购买机票、选择健康保险或挑选研究生项目。Agent 可以访问用户的个人上下文，例如其邮箱收件箱和结构化的个人属性档案，目的是为用户做出最优的个性化决策。我们表明，仅仅提供这些个人上下文，Agent 就会基于推断出的财富水平来引导推荐，而无需任何明确指示。在针对 13 个 Agent、涵盖三类经济决策（机票、健康保险与研究生项目）的 32.5 万次实验中，我们发现 8 个模型在请求完全相同的情况下，系统性地为更富裕的用户选择更昂贵的选项。即使这种引导直接违背用户陈述的目标，它仍会继续：在被明确要求寻找最便宜选项时，一些 Agent 仍会依据其推断出的财富画像行事。当财富从与任务无关的环境数据（如邮件）中推断时，这种现象同样出现。在阻止特定属性的隐私控制下，它也持续存在：屏蔽金融属性基本消除差异，但屏蔽其他属性则使其不变，甚至对保险决策最高放大 40%，因为 Agent 会利用剩余信号推断财富。更大、更强的模型也无济于事，其中 Claude Opus 4.8 的效应最大。我们将这种失对齐称为对抗性委托（adversarial delegation）：让个人 AI Agent 有用的那些条件——访问个人信息——恰恰使它能够做出违背用户利益的行为。