ImmigrationQA：美国移民法的基于源头的数据集和小模型改编

美国移民法涵盖了数千页的官方政策、联邦法规和程序指南，这些政策、联邦法规和程序指南经常变化，对于缺乏法律代理的申请人来说风险很大。我们描述了 ImmigrationQA 的构建，这是一个跨 13 个移民子域的 17,058 对的基于源的问答数据集，以及使用参数高效 LoRA 在该数据集上的 Llama 3.2 3B Instruct 模型的 微调。该语料库由 11 个主要和次要来源组成，包括 USCIS 政策手册、8 CFR、BIA 先例决定和社区问答，生成 10,056 个经过验证的规范文档和 18,308 个文本块。结构化 QA 对是使用 Claude Sonnet 4.6 通过五个特定模式提示从这些块生成的，其中 22 对因源跨度重叠不足而被拒绝。使用 LLM 作为评判评分对 101 个示例分层样本进行评分，针对 993 对保留分割对微调模型进行评估。微调模型的平均得分为 1.08/3.0（16.8% 完全正确；101 个示例分层评估），而 Llama 3 8B 基本模型的平均得分为 0.85/3.0（4% 完全正确），平均得分相对提高了 27%；零射击 Claude Sonnet 基线得分为 1.52/3.0（25% 完全正确）。经过微调的模型显示出程序子领域（旅行证件、身份调整、非移民签证）的集中改进，但在复杂的法律推理和时间敏感的统计数据方面仍然薄弱。整个管道的云计算运行成本约为 29 美元。所有工件——数据集、模型、代码和提示模板——都是公开发布的。该系统不能替代法律顾问，也不能反映语料库抓取日期之后的监管变化。