论文

论下一个职业推荐背后的推理

On Reasoning Behind Next Occupation Recommendation

模型训练监督微调与指令调优

摘要

在这项工作中,我们开发了一种新颖的推理方法来增强 大语言模型(LLM)在未来职业预测中的性能。在这种方法中,原因生成器首先使用他/她过去的教育和职业历史为用户导出“原因”。原因总结了用户的偏好,并作为职业预测器的输入来推荐用户的下一个职业。然而,这种两步职业预测方法并不简单,因为 LLM 与职业道路或每个职业决策背后未观察到的原因不一致。因此,我们建议对 LLM 进行微调,以提高其推理和职业预测性能。我们首先使用 LLM 作为法官,通过事实性、连贯性和实用性标准来衡量,得出高质量的预言理由。然后使用这些预言机原因来微调小 LLM 以执行原因生成和下一个职业预测。我们广泛的实验表明:(a)我们的方法有效地提高了 LLM 在下一个职业预测中的准确性,使其与完全监督的方法相当并优于无监督的方法; (b) 单个 LLM 经过微调以执行原因生成和职业预测,其性能优于两个经过微调以分别执行任务的 LLM; (c)下一个职业预测的准确性取决于生成原因的质量。我们的代码可在 https://github.com/Sarasarahhhhh/job_prediction 获取。