ChipLingo：EDA中大语言模型的系统训练框架

随着半导体技术的快速进步，电子设计自动化（EDA）已成为一个日益知识密集型和文档驱动的工程领域。尽管 大语言模型 (LLM) 表现出了强大的通用能力，但由于领域专业知识有限、跨工具知识混乱以及领域训练后检索增强生成 (RAG) 性能下降，将其直接应用于 EDA 仍然具有挑战性。为了解决这些问题，本文提出了 ChipLingo，这是一个针对 EDA 场景定制的领域适应 LLM 的系统训练管道。 ChipLingo 包含三个阶段：使用多源数据管理和 QA 增强的领域语料库构建、比较不同参数训练策略的领域自适应预训练以及不同检索条件下的 RAG 场景训练的指令对齐。我们还策划了一个内部基准测试 EDA-Bench，涵盖代表性的 EDA 工具场景，并计划公开发布。实验表明，ChipLingo-8B在EDA-Bench上达到了59.7%的准确率，优于同规模的基础模型和一些较大的通用模型。 ChipLingo-32B达到70.02%，接近领先的闭源商业模型。进一步分析表明，QA 增强提高了领域性能，部分 FT 比 LoRA 在适应和一般能力保留之间提供了更好的平衡，显式 RAG 场景训练缓解了领域训练后检索利用率的下降。这些结果证明了系统领域训练对于知识密集型 EDA 任务的实用价值，并为未来的 EDA 代理和外部知识驱动系统奠定了基础。