KGCache：面向大语言模型知识图谱推理的摊销式子图检索缓存

大语言模型（LLM）在与知识图谱锚定后能更可靠地回答知识密集型问题，但Think-on-Graph与Reasoning-on-Graph等系统在不同问题之间反复查询相同的图邻域。在本工作中，我们研究知识图谱问答（KGQA）工作负载中的这种重复检索，并提出KGCache，一个面向一跳知识图谱邻域的内存缓存。KGCache被设计为同时兼容迭代遍历（ToG）与一次性规划（RoG）两种KGQA范式。KGCache位于KGQA引擎与提供KG服务的后端之间，因此重复的实体请求可由缓存直接提供，而无需发起新的KG查询。我们在WebQSP与CWQ上使用LRU、LFU以及trace感知的Oracle策略评估KGCache。我们的分析表明，两个数据集在起始实体与遍历途中到达的实体之间都存在大量实体复用。我们还探索了针对相似查询的语义缓存，它在WebQSP上显示出额外的命中率增益，在CWQ上则需进一步的准确性测试。实体缓存使KG检索加速最高达1.91倍，而语义上下文缓存在所评估的WebQSP配置中实现最高1.06倍的全系统加速，每次命中最高快3.73倍。