ATHENA：面向基于 AutoFormer 的电子健康记录建模的知识引导 agentic 神经架构搜索

基于 Transformer 的模型广泛用于从电子健康记录（EHR）进行临床预测，但其架构仍需大量手动调优，且最优配置可能因任务和医院而异。神经架构搜索（NAS）可自动化架构设计，但传统方法对基于 Transformer 的 EHR 模型计算成本高昂。近期由大语言模型（LLM）引导的 NAS 方法减少了手动搜索设计，但通常各自独立执行搜索，不跨医院复用架构知识。本研究提出 ATHENA（Agentic Transfer across Hospitals for EHR Neural Architecture Search），一个面向基于 Transformer 的 EHR 建模的知识引导 agentic NAS 框架。ATHENA 使用每个医院仅需预训练一次的权重共享超网络，使候选架构可作为继承的子网络被实例化并通过微调评估，而无需独立预训练。它还引入一个两层跨医院架构先验：第一层根据任务描述符从源站点检索高性能架构示例，第二层使用基于 SHAP（SHapley Additive exPlanations）的元回归估计架构组件的效应。这些先验与来自目标医院的验证反馈一起引导多智能体 LLM 搜索。在六项临床预测任务和两个独立卫生系统上，ATHENA 在 12 项医院-任务评估中的 9 项以搜索预算 30 匹配或超越四个 NAS 基线。它在重复搜索中也表现出更一致的架构选择。ATHENA 为减少基于 Transformer 的 EHR 建模中的手动架构调优提供了实用途径。代码已公开于 https://github.com/GatorAIM/ATHENA。