召唤神谕再将其斩杀：缓解大语言模型金融回测中的前视偏差

摘要

根据历史财务数据回测大语言模型 (LLM) 并不可靠，因为预训练会在事件发生后停止。 2024年完成训练的大语言模型已经“知道”2018-2020 年股票走势。我们将这种失败命名为参数前瞻偏差，并提出了 FinCAD，这是一种上下文感知解码的推理时间改编，可以抑制大语言模型对历史结果的记忆，而无需重新训练。 FinCAD 将对抗性偏差发现管道配对，该管道学习模型特定的记忆激活先验提示，并使用实体和日期自适应规则将 CAD 强度扩展到每个（实体、日期）记忆，因此惩罚会在记忆的样本内日期上触发，并在样本外衰减到零。在 5 个 7-14B LLM 和 5 个大型股票中，FinCAD 在记忆的日期将样本内回测回报率削减了高达 -67.1%，同时将 2025 年样本外收益与基线的差距保持在8000美元以内，夏普比率与基线的差距不超过0.10，并将通用推理保持在 1.7 点以内。在 11 个模型的排行榜上，它将样本内/样本外 Spearman 相关性从 +0.779 提高到 +0.846，恢复了真正预测样本外表现的排名。

召唤神谕再将其斩杀：缓解大语言模型金融回测中的前视偏差 — 图 1：FinCAD 管道：(1) MIPROv2 在 𝒟 calib \mathcal{D}_{\text{calib}} 上发现一条内存激活指令 Tprior ∗ T_{\text{prior}}^{*} ； (2) 完成探针和实体校准设置每个（实体，日期）强度 α ⁡ ( s , t ) \alpha(s,t) ； (3) CAD 减去强度为 α ⁡ ( s , t ) \alpha(s,t) 的先验条件 logits 来杀死召唤的预言机，同时保留基于上下文的推理。