论文

EthicMind:多轮对话中道德情感协调的风险意识框架

EthicMind: A Risk-Aware Framework for Ethical-Emotional Alignment in Multi-Turn Dialogue

智能体系统Agent 架构与控制循环

摘要

智能对话系统越来越多地部署在情感和道德敏感的环境中,其中情感协调或道德判断的失败可能会造成重大伤害。现有的对话模型通常孤立地解决同理心和道德安全问题,并且往往无法随着道德风险和用户情绪在多轮交互中的演变而调整其行为。我们将对话中的道德情感一致性表述为一个明确的回合级决策问题,并提出 \textsc{EthicMind},一个风险意识框架,在推理时在多回合对话中实现这一表述。在每个回合,\textsc{EthicMind} 都会联合分析道德风险信号和用户情绪,规划高级响应策略,并生成上下文相关的回复,以平衡道德指导与情感参与,而不需要额外的 模型训练。为了评估道德复杂交互下的联盟行为,我们引入了风险分层、多轮评估协议以及上下文感知的用户模拟程序。实验结果表明,\textsc{EthicMind} 比竞争基线实现了更一致的道德指导和情感参与,特别是在高风险和道德模糊的情况下。