MINT：交易数据的通用零样本预测器

银行分析连续的金融交易数据来执行许多任务，包括预防欺诈、信用风险评估和提供个性化服务。为了提高这些任务的预测准确性，支付基础模型将交易序列数据编码为丰富的上下文嵌入，然后可以将其作为特征提供给特定于任务的模型。然而，这些基础模型并不是为跨新颖的下游预测任务进行灵活的零样本推理而设计的，限制了它们的适应性和实用性。现有的基于 LLM 的零样本预测方法通常无法充分利用交易数据中的预测信号，同时依赖于成本高昂的文本序列化或扩展性较差的特定于任务的架构。为了解决这些限制，我们提出了事务多模式指令网络（MINT），这是一个通过轻量级嵌入注入、事务语言对齐和指令调整将预训练事务序列编码器连接到仅解码器 LLM 的框架。我们发现，MINT 在分布内和分布外问题上都实现了最先进的预测问答性能，同时与文本序列化基线相比，大大减少了输入标记、延迟和内存消耗。通过对表示、对齐策略、训练数据和历史长度的综合分析，我们确定，在多模态推理和零样本预测任务中，紧凑的事务嵌入是比文本序列化更好的事务表示方法。