论文

KnowSA_CKP:按知识缺口选择性补充大模型推荐信息

Filling the Gaps: Selective Knowledge Augmentation for LLM Recommenders

上下文与知识上下文工程

摘要

大语言模型近年成为无需训练的推荐器,但由于预训练中的信息接触不均,模型对各个推荐对象的了解程度不同,形成知识缺口。多数既有方法采用统一增强,为输入提示中的每个对象都加入外部信息,既在熟悉对象上浪费上下文预算,也可能干扰有效推理。本文提出KnowSA_CKP,即结合比较式知识探测的知识感知选择性增强,以缓解知识缺口。方法通过评估模型捕捉协同关系的能力估计其内部知识,仅在最需要的位置注入补充信息。避免对熟悉对象重复增强,使上下文预算优先用于真正受益的对象。KnowSA_CKP无需微调,在四个真实数据集上持续改善推荐准确率与上下文效率。代码:https://github.com/nowhyun/KnowSA_CKP。