论文
Strategy-Induct:指令生成的任务级策略归纳
Strategy-Induct: Task-Level Strategy Induction for Instruction Generation
摘要
设计有效的任务级提示对于提高 大语言模型 (LLM) 的性能至关重要。虽然之前的指令归纳工作表明 LLM 可以通过有限的示例推断出更好的指令,但现有方法通常依赖于输入输出对,在这种情况下获得标记答案可能很困难或成本高昂。为了解决这个限制,我们提出了 Strategy-Induct,这是一个框架,仅从一小组示例问题中导出任务级指令,而不需要标记答案。我们的方法首先提示模型为每个问题生成明确的推理策略,形成(策略,问题)对。然后使用这些对来引发指导推理的任务指令。跨多个任务和模型规模的实验表明,Strategy-Induct 在纯问题设置中优于最先进的方法。此外,我们观察到,在任务指令生成和推理中联合利用 LLM 和大型推理模型可能会带来进一步的性能提升。