论文
将基础模型预测嵌入到具有结构保证的离散选择模型中
Embedding Foundation Model Predictions in Discrete-Choice Models with Structural Guarantees
摘要
表格基础模型在选择预测任务上实现了很高的准确性,但它们的预测常常违反这些任务所需的经济逻辑:提高价格可以增加预测的需求,隐含的支付意愿估计通常是负的或不可信的,并且不可用的替代方案获得非零概率。我们提出了一个两阶段适配器,它将基础模型的预测选择概率作为预先计算的特征,并将它们嵌入到多项式 logits 的实用程序中。在阶段1中,我们通过带有符号约束的最大似然来拟合多项式logits的结构系数;在第二阶段,我们冻结这些系数并根据基础模型的预测进行小型神经校正。我们证明,这种组合准确地保留了多项式 logits 的边际替代率,因此分析可计算的时间价值成为数学保证,而不是经验偶然。在三个数据集和两个基础模型中,适配器的测试精度平均比多项式 logits 提高 6.4 个百分点 (pp),最高可达 12.8 个百分点,保持 100% 的成本单调性,并在交通数据集上生成已发布的交通经济范围内的时间值。在基础模型上下文限制下,性能会适度下降,即使在原始基础模型上下文的 10% 下,也能保留至少 6 pp 的准确度增益。