论文

面向机器的机械式助推(Mecha-nudge)

Mecha-nudges for Machines

模型评测评测方法与指标

摘要

助推是对向人类决策者呈现选择方式的微妙改变(例如,默认选择加入与选择退出),可以在不限制选择或改变激励的情况下改变行为。随着人工智能代理越来越多地在与人类相同的环境中做出决策,选择的呈现可能会针对机器和人类进行优化。我们引入了机械推动:改变选择的呈现方式,系统地影响人工智能代理,而不会降低人类的决策环境。为了形式化机械推动,我们将贝叶斯说服框架与 V 可用信息相结合,V 可用信息是与观察者相关的香农信息的概括。这产生了用于比较各种干预措施、背景和模型的通用尺度(可用信息位)。将我们的框架应用于 Etsy(独立卖家的全球市场)上的产品列表,我们发现在 ChatGPT 发布后,列表中包含更多有关产品选择的机器可用信息,这与系统性的机械推动一致。

面向机器的机械式助推(Mecha-nudge):论文配图
图 1:2022 年 11 月 ChatGPT 发布后,Etsy 列表中机器可用信息的变化显着增加,从 ∼0\sim 0 到 0.1430.143 位。此处绘制了相对于 2022 年 7 月至 10 月期间的变化。这种影响在接下来的一年中减弱,然后在 2024 年末再次攀升。这与 ChatGPT Search 的发布相吻合,它可以浏览实时列表,而不像早期的模型只能从训练数据中显示列表。