论文
LLM 治理的机械执行:金融决策系统中治理-任务解耦的证据
Mechanical Enforcement for LLM Governance:Evidence of Governance-Task Decoupling in Financial Decision Systems
摘要
受监管的财务工作流程中的 大语言模型 由同一模型解释的自然语言策略控制,从而造成委托代理失败:输出可能看似合规,但实际上并不合规。现有的评估衡量任务的准确性,但不衡量治理是否限制决策理由层面的行为——受监管的决策必须是可审计的。我们引入了五个治理指标,这些指标在基本原理层面上量化政策合规性,并将其应用于综合银行领域,以将纯文本治理与机械执行进行比较:在模型解释循环之外运行的四个原语。在纯文本治理下,27% 的延期不包含与决策相关的信息。机械执行将这一比率降低了 73%,使延迟信息内容增加了一倍以上,并将任务准确性从 MCC~$0.43$ 提高到 $0.88$。这种改进是由架构分离驱动的:LLM 在机械执行下生成的基本原理显示了可比的 CDL 与纯文本治理——收益来自于从模型的控制中消除了明确的决策。因果消融证实每个原语都是单独必要的。我们的中心发现是治理与任务脱钩:在结构性压力下,纯文本治理在两个方面同时退化,而机械执行即使在任务绩效下降的情况下也能保持治理质量。这意味着治理和任务评估是不同的轴:准确性并不足以代表受监管的人工智能系统中的治理。