论文
应对不确定性:LLM-to-LLM 模拟对话中人工道德顾问的不确定性脚手架策略
Staying with the Uncertainty: Uncertainty-Scaffolding Strategies for Artificial Moral Advisors in LLM-to-LLM Simulated Conversations
摘要
LLM 越来越多地在各种环境中被部署为人工道德顾问 (AMA):它们应该显示什么样的对话模式?在本文中,我们研究 AMA 如何帮助对话者“应对不确定性”。我们提出了三种不确定性模式(视角倍增、张力保持、过程反思),并将它们与三种控制条件(基线、说服性、阿谀奉承)进行比较。用户代理 LLM 按照特定的不确定性策略与 AMA 就道德困境进行对话,并完成对话前和对话后调查问卷。我们进一步检查两种角色提示格式(声明式和叙述式)的效果。我们发现(1)没有单一模型作为模拟用户代理占据主导地位,开放模型通过人物角色之间的分歧与人类的模糊性保持一致,而封闭模型则通过人物角色内的对冲来适应人类的模糊性; (2)陈述性角色更好地捕捉初始立场的多样性,而叙事性角色则显示出更现实的信念修正; (3) 所有六种 AMA 策略都会产生可区分的会话模式; (4) 不确定性策略的不同之处不在于它们产生了多少立场修正,而在于它们维持的参与质量。