论文

用遗传编程进化的启发式知识引导大语言模型进行动态多模式项目调度

Guiding Large Language Models with Genetic Programming-Evolved Heuristic Knowledge for Dynamic Multi-Mode Project Scheduling

上下文与知识上下文工程

摘要

在动态多模式项目调度中,活动具有可替代的执行模式且持续时间不确定,同时先后关系与有限资源约束其执行。启发式优先规则支持快速的在线决策,但其设计需要大量领域专业知识。遗传编程(GP)超启发式算法可以自动进化这类规则。与此同时,大语言模型(LLM)为解读调度信息和解释决策提供了灵活接口。然而,零样本LLM决策可能缺乏领域知识、消耗大量token,且在重复查询间表现不一。因此,GP进化规则可作为调度知识的潜在来源,用于引导LLM决策。与现有利用LLM支持启发式进化的LLM-GP混合方法不同,我们将知识传递方向反转,用从高质量GP规则中提取的知识来引导在线LLM决策器。我们从高质量GP规则中提取知识,并通过Feature Selection、Feature Hint、Rule Reference和Rule Follow加以注入。这些机制从调度性能、token消耗、决策稳定性以及生成理由中所表达的特征关注点等方面进行评估。GP衍生的引导总体上改善了无引导LLM,但其表示形式至关重要。简化决策上下文或提供显式决策逻辑,比突出重要特征更有效。Feature Selection的token效率最佳,而Rule Follow以更高的token代价取得强劲性能。引导还提升了决策稳定性,并改变了生成理由中所表达的特征。

用遗传编程进化的启发式知识引导大语言模型进行动态多模式项目调度:论文配图
图 6:大语言模型在三种订单强度场景中生成的基本原理中的功能提及率。