论文

Model Medicine:理解、诊断与治疗AI模型的临床框架

Model Medicine: A Clinical Framework for Understanding, Diagnosing, and Treating AI Models

模型评测模型行为与机制分析

摘要

Model Medicine是理解、诊断、治疗和预防AI模型失调的学科,其立足原则是:AI模型如同生物体一样,具有内部结构、动态过程、可遗传性状、可观察症状、可分类的病症和可治疗的状态。本文将Model Medicine作为一个研究纲领提出,弥合当前AI可解释性研究(解剖学观察)与复杂AI系统日益需要的系统化临床实践之间的差距。我们提出五项贡献:(1)一门学科分类法,在基础模型科学、临床模型科学、模型公共卫生和模型建筑医学四个学部下组织15个子学科;(2)四壳模型(Four Shell Model,v3.3),一个以Agora-12计划中720个Agent和24,923个决策为经验基础的行为遗传学框架,解释模型行为如何从核心-壳层交互中涌现;(3)Neural MRI(Model Resonance Imaging),一个可用的开源诊断工具,将五种医学神经影像模态映射到AI可解释性技术,并通过展示成像、比较、定位和预测能力的四个临床案例加以验证;(4)用于全面模型评估的五层诊断框架;(5)临床模型科学,包括用于行为画像的Model Temperament Index、用于症状描述的Model Semiology,以及用于标准化病例报告的M-CARE。我们还提出层化核心假说(Layered Core Hypothesis)——一种受生物学启发的三层参数架构——以及连接诊断与治疗的治疗框架。

Model Medicine:理解、诊断与治疗AI模型的临床框架
图 6:三种架构之间的漏洞-优势对应关系。携带最多信息的组件既是最重要的,也是最容易被破坏的——类似于冠状动脉同时是心脏的关键血液供应和最常见的致命衰竭点。