AI，来掌舵：是什么驱动人机协作问答中的委托与信任？

AI系统会犯错，而人类在决定是否信任AI而非自己的判断时也可能出错。因此，改进人机协作需要理解人类在何时、为何以及如何决定依赖AI。我们研究两种不同的依赖决策：委托选择——决定何时在不知道AI输出的情况下让AI自主行动；采纳选择——评估AI建议并决定如何使用它们。这两种解耦的依赖模式都塑造着协作，但先前工作很少在真实场景中针对同一批用户将两者放在一起研究。我们通过研究在问答游戏中竞技的协作式人机团队来填补这一空白，游戏中人类可以选择何时以及如何与AI智能体合作以取胜。我们的24场比赛将23名人类专家与16个AI智能体配对，共捕获387次委托决策和1440次采纳决策。尽管人机协作的表现优于单独的AI或人类，人类仍会做出次优的协作决策：既在AI建议正确时依赖不足（错失3.9%的机会），也在AI误导他们时过度依赖（1.7%）。双方都会贡献错误答案：当人类与AI意见相左时，模型报告的置信度接近随机水平；而当AI建议与人类最初的错误答案一致时，确认偏误导致更高的依赖不足（64.5%）。为弥合这一差距，我们建议采用校准的置信度、有证据支撑的解释，以及帮助用户校订信任的机制。