沙丘社区
论文

从“思考”到“论证”：让高风险可解释性对齐职业沟通标准

From "Thinking" to "Justifying": Aligning High-Stakes Explainability with Professional Communication Standards

Chen Qian, Yimeng Wang, Yu Chen, Lingfei Wu, Andreas Stathopoulos
模型推理推理策略与问题分解

摘要

高风险领域的可解释AI（XAI）应帮助利益相关者信任并核验系统输出。然而Chain-of-Thought方法先推理后下结论，逻辑缺口或幻觉可能得出与理由不可靠对齐的结论。为此，我们提出“Result -> Justify”，将输出沟通约束为先呈现结论、再呈现其结构化论证。我们引入SEF（Structured Explainability Framework），通过六项结构与扎根（grounding）指标将职业惯例（如CREAC、BLUF）操作化。在三个领域四个任务上的实验验证了该方法：全部六项指标与正确性相关（r=0.20-0.42；p<0.001），SEF达到83.9%的准确率（较CoT高5.3）。这些结果表明，结构化论证可提升可核验性，也可能改善可靠性。

从“思考”到“论证”：让高风险可解释性对齐职业沟通标准
图1：Sef：通过 CREAC/BLUF 约定实现结构化可解释性。左：范式对比，展示 CoT（“Reasoning → \rightarrow Result”）与 Sef（“Result → \rightarrow Justify”）。CoT 轨迹可能难以验证（Direct 80.9% > > CoT 78.6%）；Sef 达到 83.9%。右：PubMedQA 示例，演示带指标映射的 4 步提示（Commit、Ground、Defend、Conclude）。