论文

使用语言模型进行全球并购套利预测

Global Merger-Arbitrage Forecasting with Language Models

模型训练监督微调与指令调优

摘要

我们提出了一种用于合并套利的语言模型预测系统,这是一种专门的高风险金融环境,其任务是预测已宣布的并购交易的结果。与之前使用 LLM 进行判断预测的工作不同,该工作侧重于广泛的混合主题基准和新闻片段等短上下文,我们研究的是需要对数百页技术文档进行长上下文推理的设置。我们的系统将专家引导的上下文工程与对源自历史交易的事后引导的推理轨迹进行微调相结合。给定一项已宣布的交易,它会输出三个互斥结果的概率分布:按已宣布的条款成交、更高的出价或交易终止。在跨越 42 个国家/地区的 400 多笔大型交易的样本外集合中,我们经过微调的系统实现了我们评估的任何方法中的最佳性能,将类别平衡 Brier 得分降低至 0.151。这比校准的市场隐含概率低 24%,比 XGBoost 低 19%,比前沿语言模型低 25-42%。这些结果与消融研究一起表明,基于 LLM 的预测可以在专门的长上下文财务工作流程中取得成功,而基于事后诸葛亮的监督和专家设计的上下文发挥着关键作用。