在哪里注入多样性很重要：多元化一代的统一框架

开放式生成任务通常需要一组有意义的不同输出，但 大语言模型 通常会生成相似的生成。现有的测试时多样性方法在不同的生成阶段运行，其有效性各不相同，但仍不清楚哪些设计选择会导致输出中有意义的多样性。我们引入了一个框架，该框架通过生成过程中引入的多样性源来表征测试时的多样性生成方法，并提供传输分数来衡量源中的变化如何有效地达到最终输出。在此框架的指导下，我们提出了完全自动化的规范级生成方法，该方法首先生成不同的中间规范，然后根据它们生成最终响应。在五个开放式任务和四个骨干模型中，规范级注入提高了测试时间基线上的输出多样性，同时保持了可比较的质量。我们的分析表明，成功的多样性注入取决于来源的多样性及其向输出的传输，强调来源设计和来源到输出的实现是构建更加多样化的生成系统的两个关键杠杆。