基于大语言模型的智能合约漏洞检测的频率感知持续学习

使用大语言模型（LLM）进行智能合约漏洞检测面临三个因果相扣的挑战。第一，新的漏洞类别要求参数高效适配，因为对顺序到达的任务进行全量重训的代价难以承受。第二，在共享骨干上为每个任务训练适配器会导致对先前所学漏洞的灾难性遗忘。第三，由此产生的多个适配器必须合并为单一模型，因为推理时任务身份未知。每个挑战都直接源自对前一挑战的解决方案，因而需要一个一体化框架。我们提出一个三阶段流水线，每个阶段解决一个挑战并馈入下一阶段。适配阶段使用频率感知低秩适配（FA-LoRA），在傅里叶域进行适配并配有按频率的重要性门控，只需0.4%的可训练参数，同时优于标准LoRA和QLoRA。持续学习阶段应用遗忘感知回放（FAR），利用这些频率门通过损失动力学估计每个样本的遗忘风险，并优先排练易受损的知识，在顺序任务上取得平均Micro-F1 0.8022。部署阶段采用锚点保护的渐进合并（APPM），利用FAR训练产生的不对称泛化识别泛化最强的适配器作为锚点，并通过带频域门竞争的锚点保护加权合并把所有适配器合并为单一模型。APPM取得Micro-F1 0.8085，在156 ms的合并成本和零额外运行时内存下，与逐任务独立训练的上限相差不到2.7%。在DIVE上的实验证实该框架有效应对了演进区块链生态系统的全部三个挑战。