DAST：保持单次分布，增加LLM多次输出的多样性

我们提出了 DAST（使用 TokenTour 进行多样化算术采样），这种方法可以增加 LLM 输出的多样性，而不改变边际分布，并且生成时间开销可以忽略不计（几微秒）。我们观察到，token ID 经常以无意义的顺序排列，并重新分配它们，以便具有相似含义的 token 连续出现。每个模型可以在几百秒内提前完成此操作，并且生成的订单可以为所有后续代重复使用。通过将此顺序与算术采样（或准蒙特卡罗方法）相结合，我们可以在保留分布的同时降低运行中生成相似标记的可能性。我们的方法不仅产生了高质量的想法，而且还显着提高了 ProtoQA 下游任务的性能。