返回

中国工商银行大模型落地实践

发布于 2025-04-24
案例企业:
中国工商银行
行业:
银行
总部:
北京
营收:
9179.9亿元(2022年)
员工数量:
42.8万人(2022年)

摘要:本文介绍了中国工商银行在大模型技术落地实践中的探索与成果。工商银行通过“选、育、用”三个维度,构建了“全能基模+企业大模型+专业领域大模型”的架构,并建立了全栈自主可控的“工银智涌”大模型技术体系。在金融市场、个人金融、运行管理、智能研发等领域实现了广泛的应用场景落地,显著提升了业务效率和质量。

关键发现

· 工商银行通过构建“全能基模(L0)+企业大模型(L1)+专业领域大模型(L2)”的分层架构,实现了不同业务场景的精准适配,其中L0适用于通用场景,L1适用于金融专业领域,L2适用于特定专业知识场景;

· 工商银行建立了全栈自主可控的“工银智涌”大模型技术体系,支持大小模型协同应用,覆盖算力、算法、数据等多方面能力,满足了金融业务场景复杂多样化的需求;

· 工商银行实现大模型在金融市场、个人金融、运行管理、智能研发等业务领域的广泛应用,如“ChatDealing对话交易助手”显著提升了交易效率,智能研发助手大幅提高了开发人员的编码效率;

· DeepSeek大模型当前更适合通用场景,对于专业性、时效性要求高的场景,需结合微调、强化学习或二次训练等方式优化,以达到最佳的综合性价比。


案例详情

1.工商银行大模型建设思路

工商银行聚焦选、育、用三个维度,采取“开源+商用”并行,优选全能基础模型,搭建1套全参数、全类型的全能基模底座,训练1个企业大模型+N个专业领域大模型,构建数据飞轮持续提升效果。

· 选:建立模型常态化评测运营机制通过测评方法和题目难度提升,从严择优引入;

· 育:高质量培育企业+领域大模型运用强化学习、知识蒸馏等新技术打造数据积累、模型训练等标准工艺;

· 用:集约化使用,统一大模型服务网关以屏蔽模型矩阵变化,按“全能基模(L0)快速替换、企业大模型(L1)应用尽用、少量领域大模型(L2)适当补充”的思路提升业务赋能效果。其中,大部分场景可配合使用L0、L1的模型,少量场景使用L2模型。L0模型适用于对金融行业知识掌握要求不高的通用场景,如新闻通稿编写、文章润色等;L1模型适用于涉及金融行业或通用金融知识专业的领域,如信贷风险分析、市场分析等跨领域的复杂场景;L2模型适用于依赖特定场景专业知识的领域,如知识随行、资金收支预测等场景。

2.工商银行大模型技术体系建设

在大模型出现以前,工商银行已经建立了企业级人工智能技术体系。在大模型出现以后,工商银行在传统人工智能广泛应用的基础上,建成全栈自主可控的“工银智涌”大模型技术体系,支持大小模型协同应用。

在技术上,工商银行建设千卡规模全栈自主可控算力集群、具备自主可控的训推体系,在应用推理部署上,部署2000+大小模型协同的矩阵,提炼“1+X”应用范式;在业务应用上,探索科技业务融合模式,已经赋能20+业务领域,落地了200+场景,在金融市场、信贷管理、客户营销等领域广泛应用。

“1+X”应用范式中,“1”是指智能中枢,通过智能中枢的任务感知、决策、执行、反馈等能力实现金融复杂场景的应用。沉淀“X”可共享复用的范式能力,包含多模态知识检索、对话式数据分析、智能化文档编写、交互式智能搜索、陪伴式智能研发等多项金融即插即用的零代码工程化解决方案。

幻灯片3.png

(1)算力能力建设

为了支撑人工智能技术规模化应用,满足大模型时代的算力供给需求,工商银行参考头部科技公司建设经验,结合自身实际需求开展智算能力建设。目前,工商银行已建成千卡规模国产化AI算力云,利用并发加载等技术,实现大模型分钟级弹性启动,具备TB级数据一个月内完成千亿大模型全参稳定训练的能力。

(2)算法能力建设

以“共享复用、资源集约、成本效益最优”为准则,工商银行采用“商用+开源”并行路线,建成多层次、多模态、大小模型协同融合的千亿级金融大模型算法矩阵,并利用智能体框架,构建调控引擎实现不同参数、不同能力模型的统一择优调控,满足金融业务场景复杂多样化的需求。

(3)数据能力建设

工商银行从全模数据出发,建成“世界-行业-企业-领域-任务”五层架构知识体系,利用AI4Data数据智能处理技术,打造金融知识工程“采集、清洗、管理、使用”全链路智能化技术能力。

3.工商银行大模型典型应用场景

(1)金融市场

在金融市场领域,工商银行推出“ChatDealing对话交易助手” ,基于ALL in Chat理念,实现支行、分行、总行多方交易员在同一交易对话框中通过对话完成价格磋商,运用大模型识别用户意图,并智能识别交易话术,生成交易意向、达成交易;

ChatDealing对话交易助手重塑原有“先线下电话沟通,后线上流审批、报价”的业务模式,实现对客交易效率提升3倍,已上线即期结售汇、远期结售汇、即期外汇、远期外汇、外汇组合产品等业务产品。目前,80%对客询价交易场景,83%即远期询价业务通过ChatDealing来开展,实现交易金额1.6万亿、交易笔数超过5.2万笔、对客询价交易笔数同比上涨40%。

(2)个人金融

在个人金融领域,面向数字化营销的经营决策和营销执行环节,工商银行利用大模型赋能运营人员和客户经理:

在经营决策环节:工商银行以自然语言交互重塑运营感知、策略制定,为总分行运营人员提供对话式分析洞察助手、活动部署助手;

在营销执行环节:工商银行面向一线营销人员打造营销陪伴助手和业绩反馈助手,提高营销人员客户服务效率。

(3)运行管理

围绕“服务客户、赋能员工”,聚焦全行20余万一线网点服务岗位员工遇到的客户自助办理占用厅堂资源多、复杂业务处理困难等痛点,基于大模型知识检索范式重点打造网点自助终端客户助手、网点业务助手,构建网点智能化对客服务新模式,有效提升客户到店体验及网点运营质效,支撑网点轻型运营格局建设,提升网点综合竞争力。

(4)智能研发

工商银行智能编码助手以IDE插件形式出现,提供代码补全、代码生成、代码理解、代码优化、交互式研发等功能,支持各种主流编码语言。

为了提升智能研发助手编码能力效果,工商银行使用插件端升级、提示词调整、检索增强以及多样化调优策略等技术进行优化,减少模型幻觉,提升模型推理能力。

目前智能研发助手已经在工行开发中心全面推广,覆盖7000+开发人员。针对标杆团队的数据测算显示:单位时间代码量提升25%+、AI生成的单元测试行覆盖率达到50%+、代码缺陷智能检测的智能检出率超过30%,通过研发问答等功能每月节省的时间超过1万个小时,大幅提升行内研发质效。

4.工商银行DeepSeek大模型应用探索

工商银行早在2024年上半年就引入DeepSeekV1、V2系列大模型(基于英伟达算力部署),主要试点应用于代码研发等方面。

2025年2月初,工商银行完成DeepSeek-R1基于全栈国产算力的私有化部署,并面向全行开放使用,建设财报分析助手、AI财富管家、对公考核评价、智能外呼一建话术生成等40余个应用场景。

在实践探索中,在部分场景直接利用“DeepSeek模型能力+外挂知识库”应用范式实现,和过去使用其他模型相比效果有所提升。例如,在智能量化策略生成场景,可借助DeepSeek量化经验和代码能力,自动生成更全面、逻辑更严密的策略代码;在客户舆情分析场景,利用DeepSeek对客户风险情况进行分析,DeepSeek能提供具有深度和启发性的分析结论,供业务人员参考。

但对于专业性、时效性要求较高的场景,直接使用DeepSeek模型无法达到业务预期效果,需使用小参数大模型或者基于DeepSeek大模型结合行业、企业数据进行微调、强化学习或二次训练。为满足时效性要求,可能还需要蒸馏出更小尺寸的场景专用模型。

以远程银行座席人员工单生成助手为例,由于客服类场景需要大量的专业知识和行内专有知识,DeepSeek推理模型准确率约60%,而使用经过微调的其他大模型,工单信息生成准确率可以达到80%以上。同时,DeepSeek R1单次推理思考时间平均10秒以上,无法满足即时响应场景的业务需求。

业界将不断推出能力更强大的各类模型(如:Grok3、Claude 3.7 Sonnet等),但是对于行业应用仍需要基于通用基础模型训练行业垂类模型,金融行业的大模型主流应用范式还会继续延续。

DeepSeek等大模型的应用策略需要结合不同场景特点灵活实施,以达到最佳的综合性价比。从直接使用到二次训练,复杂度和训练要求逐级增加:

一是基于DeepSeek等大模型外挂知识库直接应用,适合于通用类场景,无须模型具备特定行业或者特定领域专业能力;

二是基于DeepSeek等大模型进行微调或强化学习,增强特定任务领域的能力;

三是利用DeepSeek等大模型对小尺寸模型进行蒸馏,增强其推理能力,降低部署成本,提升响应速度;

四是对DeepSeek等大模型二次训练,形成金融行业或者企业大模型。