IndustryLLM：以采购失败案例驱动领域适配训练

工业采购要求语言模型在严格安全容差下，连接买方非正式行话、稀疏市场属性和权威工程标准。我们提出IndustryLLM，一个从Qwen3.5-35B-A3B-Base训练的开放权重工业语言模型：总参数35B，每个词元激活约3B，视觉编码器保持冻结。我们不依赖通用文本规模扩张，而是提出横跨持续预训练（CPT）与监督微调（SFT）的失败驱动适配配方。CPT使用约100B词元的精选语料，整合5B词元国家标准（如GB/T）与技术档案、10B词元去标识化真实工业交易与询价记录，以及60B词元通用回放数据。为解决语体不匹配和事实脆弱性，我们系统性重构估计为20B词元的领域子集，包括跨十种文类和八种写作风格的多语体改写、按置信度路由的最小事实编辑，以及针对错误的问答合成，例如将口语误写“42-luo-mu”还原为42CrMo、将含糊代码“16674”扩展为GB/T 16674，以及澄清冲突的尺寸规格。对于下游部署，我们形式化一个证据门控的约束评估接口，实行三值逻辑，使未经核验的商品证据保持未知而非被判为满足。离线评测显示，采购查询结构化任务的精确匹配率在No-Think模式下提高2.97个百分点，95%置信区间为[2.11,3.86]。生产环境随机在线A/B实验显示GMV提高4.25%，满意询价提高8.3%，同时延迟从6至7秒降到1.5秒。模型权重与配置已发布。 https://huggingface.co/alibaba-multimodal-industrial-ai/IndustryLLM