临床试验结果预测比较BioBERT和BioMistral冻结探针与微调

临床试验失败是有效药物开发的主要障碍，会产生大量成本并延迟患者获得有效治疗。分层交互网络 (HINT) 等结构化方法通过明确模拟药物、疾病和方案之间的相互作用来预测试验结果，但在试验注册中对自由文本的使用有限。我们评估了两个特定领域语言模型 BioBERT（108M 参数）和 BioMistral（7B 参数），用于 TOP 基准（12,477 项试验）的阶段级结果预测，将每个试验表示为从十个 ClinicalTrials.gov 字段构建的文本。我们将微调（BioBERT 的全量微调，BioMistral 的低秩适配（LoRA））与探测进行比较，其中预训练的模型被冻结，并仅在其嵌入之上训练轻量分类器。在每个阶段的测试集上，所有四种语言模型变体都获得了比已发布的 HINT 结果更高的 ROC-AUC (0.613--0.772) 和 PR-AUC (0.649--0.901)，对应于相对 PR-AUC 增益 10--20%。 F1 差异较小，且优劣不一致，并且没有模型（包括 HINT）明显超过预测每次试验成功的简单分类器的 F1。在测试的配置下，探测的执行情况与微调相当：微调模型在 I 期和 II 期的 ROC-AUC 和 PR-AUC 上得分最高，而冻结的 BioMistral 嵌入在 III 期得分最高（ROC-AUC 0.772；PR-AUC 0.901），尽管变体之间的大多数差异低于 0.03 并且未进行显著性检验。这些结果表明，预训练的生物医学表示已经编码了与试验结果相关的信号，并且探测是针对此任务进行微调的计算成本更低的替代方案。