学习和实施 LLM 的上下文敏感控制

通过上下文相关约束控制 大语言模型 (LLM) 的输出已成为克服上下文无关语法 (CFG) 在保证生成有效性方面的局限性的一种有前途的方法。然而，此类限制通常需要手动指定——这是一个需要专业知识的重大障碍。我们引入了一个框架，该框架通过两阶段过程自动从 LLM 交互中学习上下文相关约束：语法探索以收集用于约束学习的不同输出，然后是约束利用以在生成过程中强制执行这些学习规则。实验表明，我们的方法甚至可以使很小的 LLM（1B 参数）能够以完美的约束条件进行学习和生成，优于较大的对应模型和最先进的推理模型。这项工作代表了上下文相关语法学习与 LLM 生成的首次集成，消除了手动规范，同时保持了生成有效性。