论文

从准确率到可审计性:金融AI系统中的确定性综述

From Accuracy to Auditability: A Survey of Determinism in Financial AI Systems

模型评测鲁棒性、公平性与可信度评测

摘要

在受监管的金融环境(信用风险、欺诈检测和反洗钱)中部署机器学习会暴露算法再现性方面的关键漏洞。虽然早期的金融机器学习解决了回测过度拟合等统计挑战,但深度神经网络和生成人工智能引入了植根于硬件和架构的机械不确定性。这项调查提供了对目前在金融人工智能中占主导地位的三种模式的再现性失败的系统视角:表格模型(事后解释方差)、图网络(随机采样和时间异步)和基于 LLM 的代理工作流程(批次相关分歧和轨迹漂移)。我们用公共金融数据集的第一方实验来补充文献分析——量化信用评分中的解释排名不稳定性、基于 GNN 的欺诈检测中的预测翻转率,以及 LLM 实体提取中张量并行引起的输出分歧。我们提出了一个分层评估框架,将特定模态指标(RBO、D_cos、TDI、PSD)与审计准备情况联系起来,并凭经验验证逻辑级和语义级确定性措施的互补性。

从准确率到可审计性:金融AI系统中的确定性综述
图 2. Elliptic 比特币上 10 个分叉的模型排名。没有单一架构占主导地位,证实了 GNN 评估的不稳定性转移到了金融欺诈检测。