论文
路由,不修复:依赖于制度的解码校正和轨迹门控路由器,用于可靠的临床 LLM 答案选择
Route, Don't Fix: Regime-Dependent Decoding Correction and a Trajectory-Gated Router for Reliable Clinical LLM Answer Selection
摘要
大语言模型(LLM)通常被认为对于临床问答来说是不安全的,因为它们容易产生幻觉。检索增强、微调和外部验证器需要临床治理必须批准的新基础设施,并且可能会增加延迟或额外的模型调用。推理时间校正使用模型的内部 logit 信号,但固定转换不需要适合每个问题。一种校正器可以将真实性压力测试的准确性提高约 10 个百分点,但在临床多项选择基准上产生的收益可以忽略不计,其中指令调整将输出概率集中在一个答案上,并留下较低的终端熵。我们引入了 ALTAS,它从一次前向传递中读取终端熵和后期层线性度 ($R^2$),以在贪婪解码和后期层轨迹校正之间选择每个问题。没有训练分类器、探针或头部;路由器在候选答案日志上运行,并增加了 6.5% 的延迟开销。应用于每个问题时,修正后的 TruthfulQA 相对于贪婪的 3B 和 8B 分别提高了 11.4 和 10.0 个百分点 ($p<10^{-10}$)。以每个问题为门限,ALTAS 保留了 8.3 至 9.5 个百分点的收益,同时将 MedQA、PubMedQA 和 MedHallu 保持在 1 个百分点的无害范围内,与贪婪没有统计上的显着差异。该方法通过了对冻结阈值、评分规则和域标签的验证扫描。