论文
AuditWeave:用于人工智能辅助和数据转换工作流程的防篡改、审计员可导航的证据层
AuditWeave: A Tamper-Evident, Auditor-Navigable Evidence Layer for AI-Assisted and Data-Transformation Workflows
摘要
人工智能系统越来越多地用于协助审计、金融和医疗保健等监管领域的后续决策。这就产生了一项经常性的义务:组织必须能够在事后重建哪些证据表明了给定的结论,并表明该推理的记录没有被改变。现有工具解决相关但不同的问题——模型可观测性、偏差监控、治理报告——并且是为操作系统的机器学习工程师构建的,而不是为必须将一个特定结论追溯到其支持证据的审阅者构建的。我们推出了 AuditWeave,一个轻量级的 Python 库,没有运行时依赖性,它将人工智能辅助和数据转换工作流程的步骤记录到单个仅附加的哈希链账本中。与系统无关的小型事件词汇表涵盖检索增强生成 (RAG) 管道和表格/Lakehouse 转换,因此可以通过一条记录端到端地跟踪两者得出的结论。在密封账本中,任何事件的修改、重新排序、插入或删除都可以通过链验证来检测。我们描述了参考实现的设计并评估了记录开销、可扩展性和篡改检测正确性。完整性保证每个事件花费数十微秒,并且正如哈希链结构所暗示的那样,验证标记了 2,000 多个随机试验中四个突变类别中的每个注入突变。