论文
PathMem:面向病理MLLM的认知对齐记忆转换
PathMem: Toward Cognition-Aligned Memory Transformation for Pathology MLLMs
摘要
计算病理学既要求视觉模式识别,也要求动态整合结构化领域知识,包括分类体系、分级标准与临床证据。实践中,诊断推理需要把形态学证据与正式诊断及分级标准关联起来。尽管多模态大语言模型(MLLM)展现出强大的视觉语言推理能力,却缺乏结构化知识集成与可解释记忆控制的显式机制。因此现有模型难以在推理中稳定纳入病理专用诊断标准。受人类病理学家分层记忆过程启发,我们提出以记忆为中心的病理MLLM框架PathMem。PathMem把结构化病理知识组织为长期记忆(LTM),并引入记忆Transformer,通过多模态记忆激活与情境感知的知识落地建模LTM到工作记忆(WM)的动态转换,为下游推理实现情境感知的记忆精炼。PathMem在多项基准取得SOTA:WSI-Bench报告生成(WSI-Precision +12.8%、WSI-Relevance +10.1%)与开放式诊断较既有WSI模型分别提升9.7%和8.9%。
