论文

TriageRA-CCF:利用临床置信度与覆盖信号调整医疗LLM的LoRA秩预算

TriageRA-CCF: Source-Side Clinical Confidence and Coverage Signals for Adaptive Rank Budgeting in Medical LLMs

模型训练参数高效训练

摘要

医学 大语言模型 通常采用固定的低秩预算,尽管医学问题在置信度、临床覆盖范围和跨领域难度方面存在很大差异。我们研究参数高效的医学问答的自适应秩预算:对于每个问题,适配器决定是否激活 LoRA 秩通道的小、中或大子集。核心挑战是,一个简单的自适应预算路由器可能会崩溃,陷入不稳定的选择或支出容量,而无法改进转移的基准。我们提出 TriageRA-CCF,它是自适应秩预算 LoRA 的源端教师。它结合了仅根据源训练数据计算的三个信号:基本模型答案置信度、元数据细胞临床覆盖率和反事实近距离代理。这些信号监督活动等级 {2,4,8} 上的直通预算路由器,以及预算成本、熵和等级平衡正则化。在匹配的 CMB 源训练协议下,TriageRA-CCF 在 Qwen3-8B 和 Llama3.1-8B 上实现了 LoRA、DoRA 和 MoELoRA 基线中的最佳平均准确度。各个基准的收益是温和且不均匀的:Qwen3-8B 上的最强外部基准平均点+0.21,Llama3.1-8B 上+0.16。组件消融表明,置信度、覆盖范围和反事实信号都提供了有用的预算监督,但它们的组合在每个骨干网上并不是单调最佳的。