论文

RecPFN:用于基于上下文的推荐的先验拟合网络

RecPFN: Prior-Fitted Networks for In-Context-Based Recommendations

模型训练预训练

摘要

我们引入了 RecPFN,这是一种先验拟合网络,它将上下文学习引入顺序推荐中。 RecPFN 完全在从广泛的结构因果先验中采样的合成点击流环境上进行预训练,使其能够从小支持集中摊销贝叶斯式推理。在推理时,仅包含轻量级解码器的 Transformer 以少数域序列为条件,并在单个前向传递中为查询生成下一项预测,而无需任何权重更新。在八个公共基准测试中,RecPFN 实现了最先进的零样本性能,同时在低计算和低数据环境下与监督方法保持强大的竞争力。它部署高效且对域转移具有鲁棒性,优于依赖于大​​型真实交互语料库的强大的零样本基线。 RecPFN 提供了一条通向可推广、数据高效的推荐器的实用路径,并为更丰富的先验、更长上下文的 ICL 和多模式扩展开辟了途径。训练和评估代码可在 https://github.com/SAP-samples/tabular-ai-recpfn/ 上公开获取。