论文

RAILS:大规模检索增强增量 LLM 聚类

RAILS: Retrieval-Augmented Incremental LLM Clustering at Scale

上下文与知识检索增强

摘要

在生产规模上使用大型语言模型 (LLM) 作为集群器很困难:提示无法容纳整个标签空间,并且每个文档的串行处理无法提供实际工作负载所需的吞吐量。我们推出了 RAILS,这是一种检索增强的增量 LLM 集群器,它将集群转变为不断增长的标签池上的简单循环,并通过有限并发的文档批处理进行扩展。在六个公共基准上,RAILS 平均超过了之前最强的 LLM 聚类方法,准确率从 51.2% 提升到 59.3%,NMI 从 67.2% 提升到 74.8%,ARI 从 45.4% 提升到 54.7%。我们进一步报告来自 SaaS 票证主题发现管道的生产部署证据,其中 RAILS 已取代传统的 HDBSCAN 阶段,具有更高的集群质量、透明的提示驱动控制和有状态增量操作。