论文

负责任的智能体AI需要显式溯源

Responsible Agentic AI Requires Explicit Provenance

AI 基础设施可观测性

摘要

智能体AI正在软件工程等多样真实世界领域中迅速扩散,但公众信任未能同步跟进。核心原因在于,责任尽管被广泛讨论,仍然是一个主观且缺乏执行力的概念,因为现有智能体框架都无法产生可量化、可追溯、可干预的溯源信息,而当伤害源于并非任何单方设计的组合时,正是这些溯源信息才能用于责任认定。我们的立场是:所缺失的不是更好的基准级评估,而是覆盖智能体全生命周期的显式溯源(explicit provenance),这是使责任可计算、可行动的唯一可行基础。我们沿四个轴线推进这一议程:通过识别社会技术维度上的责任缺口,论证此类溯源为何(why)是结构性必需;通过因果归因函数与责任张量,形式化它必须编码什么(what);讨论如何在四个生命周期层级上使其可计算(how),初步实验表明溯源可在不可逆伤害累积之前在线估计和干预;并通过一个具体的智能体事件考察谁(who)应承担责任。显式溯源不是可有可无的改进,而是负责任智能体AI的必要条件,其生态系统中的任何利益相关方都不能将其视为可选项。

负责任的智能体AI需要显式溯源:论文配图
图 1:每个组件的可信 AI 单独审核组件 (1),但代理 AI 将它们嵌入长期行动循环中,从而产生紧急危害、意外的组合后果和分散的责任 (2)。缩小这一差距需要在负责任的代理人工智能的整个生命周期中提供明确的来源,我们通过四个轴进行演示 (3)。