论文
KC-Bench:评估大语言模型智能体知识冲突的动态交互基准
KC-Bench: A Dynamic Interactive Benchmark for Evaluating Knowledge Conflicts in LLM Agents
摘要
随着LLM越来越多地通过工具采取行动,他们必须在采取行动之前协调用户指令、参数知识和动态环境观察。我们引入了 KC-Bench,这是一种受控多轮基准,用于衡量跨世界知识冲突、输入不一致和多源时间冲突的能力。其 238 项任务是从 1,000 多个生成的候选任务中手动筛选出来的,并结合了用户模拟器、状态工具、确定性环境断言、开源自然语言评估器和人类轨迹验证。对 DeepSeek-V4-Flash、GLM-5.2 和 MiniMax-M3 等九个模型的评估显示出巨大的跨域差异:没有模型能够在所有设置下可靠地处理事实纠正、身份一致性检查和时间冲突解决。在模拟环境中,错过的冲突可能会传播到工具调用或合成受保护数据流。 KC-Bench 隔离了这种模型级行为,而不是对完整的代理框架进行排名,并为开发冲突感知推理和执行保障措施提供可重复的诊断。
