论文
LLM 文本生成中可靠约束满足的闭环控制架构
A Closed-Loop Control Architecture for Reliable Constraint Satisfaction in LLM Text Generation
摘要
软件系统越来越多地将大型语言模型嵌入到必须满足数字输出约束的功能中,即可表达为数字或间隔并可通过代码检查的要求,例如目标字数或目标可读性等级范围。由于此类模型是不确定的,是通过自然语言指令而不是键入的界面进行配置的,并且仅近似满足规定的要求,因此单个提示既不能可靠地满足目标,也不能保留源内容。本文提出并评估了针对该问题的闭环控制架构。它有五个阶段:生成、评估、调整、归档和分析。该模型仅在编写和编辑文本时被调用,而确定性代码将复合可读性值与目标范围进行比较,拒绝任何删除源实体、数字或关键字的编辑,并做出每个接受的决定。在四种商业模型上进行了超过 114 个单次生成作业和 240 个闭环运行,单次提示在 21.1% 至 31.6% 的情况下达到了目标,闭环则在 92.5% 至 98.8% 的情况下达到了目标,平均在两轮编辑内,基于召回的保真度为 0.92 至 0.93;两种设置共有的两个模型显示出相同的效果。由于控制器优化了成功评分的值,因此结果对已声明的、可计算的指标和未经验证的人类难度建立了可重复的控制。可转移的做法是将接受条件声明为代码,将模型绑定到本地编辑,并在内容检查上对每个编辑进行门控。