论文
语义合作博弈:LLM多智能体系统中的贡献归因
Semantic Cooperative Games for Contribution Attribution in LLM-Based Multi-Agent Systems
摘要
贡献归因已成为LLM多智能体系统的核心问题:最终输出经多个智能体、消息交换与有序工作流依赖产生。现有归因方法常依赖反事实估值——移除智能体或比较改动智能体子集的分数变化。在语言中介的工作流中,这些方法需要重复模型调用、方差高,且不显式捕捉智能体产出、保持与转化任务相关信息所经的中间语义状态。我们提出语义合作博弈(SCG):把已实现的语言流表示为语义生成超图,并在该结构上导出智能体级语义价值函数。我们定义语义Shapley值(SSV)在语义支持逻辑上分配贡献,并引入SLIC——一个单轨迹算法:构建语义超图、恢复最小语义支持、应用布尔吸收、不重跑智能体子集即计算SSV。我们证明在标准的基于集合、完全可观测与无序依赖条件下,SSV退化为经典Shapley值。在满足这些条件的医学基准上,SLIC把计算成本降低93.3%,同时与蒙特卡洛Shapley基线高度一致。在更一般的多角色工作流中,SSV与扰动引发的分数下降轮廓一致,并暴露语义贡献与失败影响分歧的案例。总体而言,SLIC为复杂LLM多智能体系统提供快速、无反事实、可解释的归因方法。
