论文
通过特定领域知识图进行面向旅行的推理 大语言模型
Travel-Oriented Reasoning Large Language Model via Domain-Specific Knowledge Graphs
摘要
大语言模型 (LLM) 表现出广泛的推理能力,但在旅行等专业领域中,准确性和可靠性方面存在困难,其中推理依赖于精确的定义、规则和专家定义的概念框架,并且自信但毫无根据的输出是由于推理失败而产生的,其中模型没有内化底层领域图,而不是仅仅由于缺失领域知识而产生。我们提出了一种模块化管道,用于构建基于专家设计的知识图(KG)的旅行领域推理 LLM。我们的管道集成了一个对领域实体及其关系进行编码的旅行知识图谱、一个自下而上的构造过程(该过程使知识图谱生成多跳问答(QA)对)、一个监督 微调 阶段(使用生成的 QA 对作为可审核的推理轨迹将领域知识嵌入到具有推理能力的 LLM 中),以及一个测量微调模型的准确性和校准的旅行领域基准数据集。我们使用 Qwen3-4B 和 LoRA 适配来评估我们的方法。我们的推理模型在基准测试中实现了 $82.4\%$ 精确匹配。该性能显着优于预训练的 Qwen3-4B 基线($22.4\%$)。校准分析将剩余的 $17.57\%$ 错误分解为两种不同的失败模式:一种过度自信的多标签解码器,在大多数双答案错误中预测两个正确答案和一个虚假选项,以及在单答案问题上的较小推理失败,其中支持事实存在于知识图谱中,但模型无法重建正确的多跳路径。这种分裂证实了基于 KG 的显式推理极大地提高了 LLM 在专业领域中的准确性和不确定性解释,并将每个选项校准和跟踪长度感知解码作为下一个改进轴。