论文
BayesPrompt:人类可读且有意义的提示
BayesPrompt: human readable prompts that make sense
摘要
在 LLM 中重建可以引发所需答案或行为的提示是一个开放且重要的研究主题。然而,旨在最小化给定答案的复杂性的优化方法始终会产生所谓的伪提示,即难以理解的标记字符串,这些标记可能缺乏人类可解释性。我们认为这是即时优化任务不适定的结果。通过将任务重新定义为对提示的贝叶斯后验推理,我们提出了一种有效的算法来对提示进行采样,该算法既高效(就困惑度而言)又具有人类可读性。我们将我们的方法与最先进的替代方案进行比较,在真实数据集上显示出在一系列指标上的显着改进。