论文

SeLATM:用片段级主题生成与反馈减少文档分析开销

Segment-Level Agentic Topic Modeling for Improved Data Exploration and Resource Efficiency

应用与实践结构化分析、预测与决策

摘要

主题建模是一种发现文档中隐藏主题的有效技术,广泛应用于各个行业领域的文本挖掘和数据分析。最近,基于大语言模型(LLM)的主题模型已经出现,它提示LLM生成主题,然后将主题分配给文档,从而产生比传统主题建模算法更自然和人类可读的主题。然而,主题分配过程的性质导致了某些缺点,例如无法在文档上产生主题分布、主题太宽或太窄、以及高资源消耗(资源消耗随着被分配主题的文档的数量和长度而增加)。这些问题对于工业应用尤其重要,因为工业应用需要高质量、深入的分析和大量文档的处理。在此背景下,本文介绍了一个名为 SeLATM 的框架,该框架通过Agentic 反馈循环采用分段级主题生成和主题细化来解决这些问题。各种数据集上的实验结果表明,与基于主题分配过程的方法相比,SeLATM 显着减少了 LLM 资源,同时保持了卓越的性能。