论文

多少提示就足够了? LLM 中少样本的黑盒最小化

How Much Prompt Is Enough? A Blackbox Minimization of Few-Shots in LLMs

上下文与知识上下文工程

摘要

提示是指导大语言模型 (LLM) 行为的主要机制。然而,提示的内部结构和因果层次仍然知之甚少:哪些部分是因果必要的,哪些部分是多余的,这是一个悬而未决的问题。这种不透明性可能会产生严重的后果。微妙的即时变化可能会悄悄地改变关键软件系统中的模型输出,而工程师缺乏推断即时可靠性的技术。我们提出了 \framework,一个黑盒提示最小化框架,可以将小提示提示减少到必要的最小子集。我们使用案例研究将框架应用于几次学习系统,并展示该框架可以提供的见解。我们的实验表明,少样本样本的字符数平均可以减少 65.3\%~$\pm$~15.8\%,同时完全保留命题输出保真度。该模型优先保留逻辑标识符和约束声明,同时丢弃自然语言散文和交叉提示关系注释。我们的分析还表明,一些模型是通用编码器,能够产生高度清晰但最小化的提示,而其他模型是通用解码器,能够解释大多数其他模型的最小化提示。通过识别哪些组件是不可或缺的,\framework 为小样本样本的快速压缩和结构分析提供了原则基础。