论文
DISCO:用于比较评估的文档智能套件
DISCO: Document Intelligence Suite for COmparative Evaluation
摘要
文档智能需要准确的文本提取和对文档内容的可靠推理。我们引入了 \textbf{DISCO},一个 \emph{用于比较评估的文档智能套件},它可以在不同文档类型(包括手写文本、多语言脚本、医疗表格、信息图表和多页文档)的解析和问答方面分别评估光学字符识别 (OCR) 管道和视觉语言模型 (VLM)。我们的评估表明,不同任务和文档特征的性能差异很大,这强调了选择具有复杂性意识的方法的必要性。 OCR 管道通常对于手写和长或多页文档更可靠,其中显式文本基础支持文本推理,而 VLM 在多语言文本和视觉丰富的布局上表现更好。任务感知提示会产生混合效果,提高某些文档类型的性能,同时降低其他文档类型的性能。这些发现为根据文档结构和推理需求选择文档处理策略提供了经验指导。