使用基于 DSPy 的声明式学习优化 LLM 提示工程

大语言模型（LLM）在广泛的自然语言处理任务中表现出了强大的性能；然而，它们的有效性很大程度上取决于及时的设计、结构和嵌入的推理信号。传统的即时工程方法在很大程度上依赖于启发式试错过程，这限制了跨任务的可扩展性、可重复性和泛化性。 DSPy 是一种用于优化文本处理管道的声明式框架，通过为基于 LLM 的系统实现自动化、模块化和可学习的提示构建，提供了一种替代方法。本文对基于 DSPy 的声明式学习进行提示优化进行了系统研究，重点是提示合成、校正、校准和自适应推理控制。我们引入了统一的 DSPy LLM 架构，该架构结合了符号规划、无梯度优化和自动模块重写，以减少幻觉，提高事实基础，并避免不必要的提示复杂性。对推理任务、检索增强生成和多步骤思想链基准进行的实验评估表明，跨模型在输出可靠性、效率和泛化方面取得了一致的收益。结果显示，事实准确性提高了 30% 至 45%，幻觉率降低了约 25%。最后，我们概述了声明式提示优化框架的主要局限性并讨论了未来的研究方向。