论文
结构化提示优化与强化学习相结合，实现复杂文本的全局和局部可解释性
Structured Prompt Optimization Meets Reinforcement Learning for Global and Local Interpretability over Complex Text
摘要
LLM 具有先进的文本分类，但现有范例面临权衡：监督（仅标签）微调 具有可扩展性，但对复杂文本的推理能力有限，并且缺乏更广泛的模型透明度，而离散提示优化提供了人类可读的指令，但在性能和可扩展性方面存在困难。我们引入了 eXTC（eXplainable Text Classifier），分为三个渐进阶段：（1）通过新的结构化提示优化算法以自然语言学习标准操作程序（SOP，或规则手册）； （2）基于SOP的推理蒸馏从大老师LLM变成紧凑的LM； (3) 通过强化学习将推理能力扩展到初始 SOP 之外。这种设计使 eXTC 能够（i）通过紧凑的 LM 进行快速推理，（ii）推理时本地推理轨迹，以及对其学习的领域规则的全局模块化解释，同时（iii）在分类性能和解释质量方面显着优于跨不同基准的现有范式，并具有逐步增益。