论文
学习社会规范提升动态人机协调的相容性
Learning social norms enhances compatibility in dynamic human-AI coordination
摘要
人类在动态交互中持续与他人协调——常经由隐式的、难以量化的社会规范(交互智能体间的共享默会期望)。随着包括LLM在内的AI智能体嵌入日常生活,它们日益参与此类交互并重塑社会交互结构,却常无法以有效、体贴、自然的方式与人类协调。我们假设该差距源于既有方法把模型行为与人类示范对齐、却没有显式量化产生该行为的底层规范。我们选择行人—车辆交互作为代表性动态交互,开发捕捉其关键交互特征的简化实验平台;从平台收集的3,456次动态人类交互中,识别人类社会规范背后的三原则:结果可预测性、价值对齐与优势意识。把这三原则纳入AI智能体显著改善人机协调:在与人类的闭环交互任务中,知社会规范的LLM取得近四倍于基线策略的总分,并超过人-人交互43%。结果表明把默会社会规范形式化为显式可量化原则,能使AI智能体在动态交互中实现互惠协调——支持其更自然地融入人类社会。