NeurDuo-EEG：具有持久状态和外显记忆的长序列脑电图基础模型

脑电图（EEG）在数小时内连续记录，相关动态跨越从毫秒到小时的时间尺度。然而，大多数脑电图基础模型独立处理固定窗口，限制了它们捕获长时间尺度动态编码信息的能力。状态空间架构支持持久的循环处理，但长程信息在循环状态中仍然隐式压缩。我们提出了 NeurDuo-EEG，一种具有通道解析持久记忆的因果脑电图基础模型。 NeurDuo-EEG 引入了具有学习巩固和选择性检索的多时间尺度记忆管理，从而能够对具有固定大小状态的连续脑电图进行持久建模。它使用离散频谱代码的多通道自回归预测，对来自 17 个公共数据集的 3,955 小时的脑电图进行了预训练。在三个短窗口和两个长序列下游任务中，NeurDuo-EEG 在五个基准中的四个上实现了最佳性能，包括所有三个短窗口任务和癫痫检测，其中 AUC-PR 比最强的非 NeurDuo 基线从 0.285提高到 0.471。 NeurDuo-EEG 在睡眠分期方面也保持竞争力，并支持高效的流式推理，随着可用历史记录增长到一小时，每个块的延迟几乎恒定。值得注意的是，Small 变体仅用 470 万个主干参数就实现了这一点。这些结果证明了持续的多时间尺度建模对于长序列和短窗口脑电图分析的价值。我们的代码可在 https://github.com/YifaNNW/NeurDuo-EEG. 获取