论文
面向人机协作决策的以人为本反思架构
Human-Centric Reflective Architecture for Human-AI Collaborative Decision-Making
摘要
大语言模型（LLM）在人类活动多样领域的使用——从日常任务到安全攸关应用——旨在以最少人类反馈增强决策有效性。同时——它寻求使决策与人类期望、偏好和需求对齐——并缓解与AI非确定性相关的风险。但人类频繁过度或不足依赖AI推荐——且当前AI系统对人类期望的校准仍然不佳。为应对这些挑战——我们引入人机协作决策框架——设计用于增强人类能力并使AI智能体与人类偏好和期望对齐。具体地——本文(a)将协作决策任务形式化为AI智能体与人类玩家之间的随机博弈——(b)提出以人为本反思架构（HCRA）——将人类校准模型与在迭代反思过程中利用语言反馈的强化学习智能体相集成。评估结果表明HCRA增强决策有效性并交付高质量推荐。
