平衡 RAG 管道中的推理和硬件约束以实现乌克兰多域文档理解

本文描述了提交给 UNLP 2026 多领域文档理解共享任务的系统。该挑战要求在严格的 9 小时离线 Kaggle 执行限制内，从各种乌克兰 PDF 文档语料库中提取精确的答案、文档 ID 和页码。在对隐藏的私有测试集进行评估期间，扫描文档的光学字符识别 (OCR) 成为严重的瓶颈，由于顺序单线程执行，消耗了总时间预算的 5-7 个小时。此开销将大型语言模型 (LLM) 推理的剩余时间严格限制为 500 个问题的大约两个小时。为了保证管道在不超时的情况下完成，我们利用 BM25、BGE-M3 和交叉编码器重排序开发了一种资源高效的混合检索增强生成 (RAG) 管道。我们没有部署经常超时的参数密集型推理模型（例如 DeepSeek R1），而是通过此 http URL 在双 NVIDIA T4 GPU 上使用 4 位量化的 LapaLLM 12B 模型。我们的系统将管道稳定性优先于多步骤推理，获得了 0.8095 的私人分数，在 15 个活跃团队中排名第 10。