论文

构造即合规的论证图:利用生成式AI产出证据链接的形式化论证以实现认证级问责

Compliance-by-Construction Argument Graphs: Using Generative AI to Produce Evidence-Linked Formal Arguments for Certification-Grade Accountability

智能体系统Agent 动作执行与治理

摘要

高风险决策系统日益需要结构化的论证、可追溯性和可审计性,以确保问责和监管合规。安全关键系统认证中常用的形式化论证,提供了一种以可验证方式组织论断、推理和证据的机制。与此同时,生成式人工智能系统正日益被整合进决策支持工作流,协助起草解释、汇总证据和生成建议。然而,当前的部署往往将语言模型用作约束松散的助手,这带来了幻觉推理、无依据论断和可追溯性弱等风险。本文提出一种构造即合规(compliance-by-construction)架构,将生成式AI(GenAI)与结构化形式论证表示相集成。该方法将每个AI辅助步骤视为一个论断,它必须由可验证证据支撑,并通过显式推理约束的验证,才能成为正式决策记录的一部分。该架构结合四个组件:i)受保证案例方法启发的类型化论证图表示,ii)基于权威证据起草论证片段的检索增强生成(RAG),iii)强制完备性与可采纳性约束的推理与验证内核,以及iv)符合W3C PROV标准的溯源账本以支持可审计性。我们给出了系统设计,以及基于可强制执行的不变式和实例演练的评估策略。分析表明,确定性验证规则能够阻止无依据论断进入决策记录,同时让GenAI加速论证构建。