JevOut：自然环境可以翻转决策模型

Jev 等专用决策模型将非结构化语言映射到有限选择的概率分布，允许其输出直接路由请求、选择工具和触发操作。然而，现实世界的输入很少是孤立的：它们带有背景细节和周围环境。我们发现，即使正确答案保持不变，自然适合这种情况的简短补充仍然可以重定向原本正确的决策。为了研究这种行为，我们为每个最初正确的项目修复了错误的目标选项，并使用模型的选项概率来完善流畅的上下文添加，同时保留来源、问题、选择和黄金答案。在 64 个接受的目标评估中，优化器识别出将 Jev 重定向到 508 个最初正确决策中的 312 个的上下文 (61.4%)；在 229 个案例中，Jev 为固定错误选项分配了至少 0.7 的概率。在七个数据集中，另外三个决策系统在最初回答正确的决策中显示出 64.9%-73.2% 的目标翻转率。总而言之，这些结果暴露了当前决策模型的明显脆弱性：简短、看似普通的上下文可能会将正确的选择转变为高度可信的错误选择。由于这些模型将语言直接转化为下游选择，因此这种敏感性引起了人们对将其概率输出视为可靠决策接口的担忧。