沙丘社区
论文

Batch-of-Thought：面向增强 LLM 推理的跨实例学习

Batch-of-Thought: Cross-Instance Learning for Enhanced LLM Reasoning

Xuan Yang, Furong Jia, Roy Xie, Xiong Xi, Hengwei Bian, Jian Li, Monica Agrawal
模型推理推理验证与自校正

摘要

当前的大语言模型推理系统独立处理查询，丢弃有价值的跨实例信号，例如共享推理模式和一致性约束。我们引入了 Batch-of-Thought (BoT)，这是一种无需训练的方法，可以联合处理相关查询以实现跨实例学习。通过跨批次进行比较分析，BoT 可以识别高质量的推理模板，通过一致性检查检测错误，并摊销计算成本。我们在多代理反射架构（BoT-R）中实例化 BoT，其中反射器执行联合评估以解锁在隔离处理中无法获得的相互信息增益。三个模型系列和六个基准的实验表明，BoT-R 持续提高准确性和置信度校准，同时将推理成本降低高达 61%。我们的理论和实验分析揭示了批处理感知推理何时以及为何有益于大语言模型系统。

Batch-of-Thought：面向增强 LLM 推理的跨实例学习 配图
图 1：批量思维（Batch-of-Thought）反思框架。执行者（Actor）为一批查询生成初始响应；随后反思者（Reflector）通过对比分析对全部响应进行联合评估，判断每个响应应当定稿，还是结合反馈进行细化。