LLM 能否想象超越二元困境的道德选择？

随着 LLM 越来越多地充当道德顾问和智能体，他们必须解决相互竞争的价值观之间的冲突。然而，先前关于道德困境的研究忽视了人类道德认知的一个核心方面：想象超出给定选项的替代方案。我们引入了 MoralAltDataset，其中包括 307 Advisor 和面向 AI 的 Agent 困境，并通过妥协和重新构建的替代方案进行了增强。我们比较人类和 LLM 在二元和四选项设置中的判断。在人类参与者和 15 LLM 中，两种设置之间的总体道德选择分布存在很大差异，妥协通常优于任何一种原始二元选项。结果显示，价值发生了转变，人类与 LLM 对替代方案的一致性也更强。源分层结果揭示了描述性差距：不同创作源的人类替代选择率相似，而 LLM 选择 GPT-5 创作的替代品的频率要高得多。然后，我们通过成对偏好和基于专家的评估，将人类编写的替代方案与三个代表性 LLM 的输出进行比较。这些 LLM 的替代方案通常是首选，并且更好地满足细粒度的结构和道德标准，同时揭示了结构质量和实际可行性之间的权衡。我们的数据集位于：https://huggingface.co/datasets/jongchanch/MoralAltDataset，我们的项目页面位于：https://jongchanchoi.com/moral-imagination