LLM 如何评估感知道德能动性？研究人类与人工智能主体交互中的道德决策

当 LLM 承担需要道德建议的角色时，了解他们如何归因道德代理变得至关重要。人类拥有道德能动性，即做出符合道德指导的决策并对其后果承担责任的能力，这是道德心理学中的一个完善的概念。然而，随着机器人、无人机和无形人工智能系统等人工智能体 (AA) 越来越多地嵌入智能城市环境中，道德代理是否以及如何归因于它们的问题变得更加紧迫。据我们所知，本文提出了第一个实证研究，比较了人类和 LLM 如何评估不同实施例的人类和自主人工代理的感知道德代理（PMA），这些代理位于合理的智能城市场景中。使用经过验证的 PMA 量表的改编版，我们将协议应用于 190 名人类参与者以及各种 LLM。我们的评估显示，人类对道德能动性的认知高于 AA。然而，当在具体场景中面临道德困境时，LLM 从情况出发进行推理，优先考虑伤害的严重性和上下文的紧迫性，而不是对代理本身的任何稳定评估，从而放大了人类评估者中也存在的上下文敏感性。随着 LLM 越来越多地参与日常道德决策，这些发现尤其重要。