2024年5月,国内大模型打起了价格战。第一枪由DeepSeek 打响,2024年5月6日,DeepSeek发布DeepSeek-V2,价格仅为GPT-4 Turbo 的近百万分之一。随后,智谱、字节跳动、阿里巴巴、百度、腾讯等主流大模型厂商也纷纷开始模型API降价,甚至免费提供部分模型 API 。
下图详细比较了主要大语言模型供应商相较于OpenAI GPT-4 Turbo和GPT-3.5 Turbo的API价格,以及在价格战中大模型的降价幅度。
1.短期来看,API 价格下降对企业的影响有限
从以上数据中可以看出,大幅降价甚至免费提供的,并不是大模型厂商最先进的模型,而往往是 Lite轻量版或是本身价格就比较低的模型。与大幅降价的轻量版模型相比,各个大模型厂商最先进的大模型(也是其主力大模型,例如百度的Ernie3.5、Ernie4,智谱的GLM-4)的价格变化并不大。
对于选择本地部署大模型解决方案的企业来说,不会受到大模型API价格变动的影响,对于选择云部署的企业来说,API成本只是大模型解决方案成本中的一部分。
企业在考虑大模型解决方案的总拥有成本(TCO)时,需要考虑微调成本。首先,企业可以使用技术最领先的大模型来评估用例的技术可行性,然后用企业自己的数据微调一个较小的模型来执行特定的下游任务。同时,对于提供免费API的模型,评估微调成本也很重要,因为这些模型并非完全免费。
此外,在使用 API 将数据上传到云端时,企业还应考虑额外的数据安全和隐私要求。企业应查看用户协议中列出的数据安全措施。此外,处理、加密和屏蔽数据也需要企业付出额外的成本和工作。
企业还需要注意的是,价格只是企业在选择大模型时的其中一个评估因素,模型性能、定制化程度等其他因素也需要仔细考察。
2. 长期来看,API价格持续下降将使企业重新评估大模型部署策略
企业应将业务的优先级与所选的人工智能部署方案相匹配,尤其是从以下六个角度进行权衡时:
随着大模型API接口平均价格的不断下降,云部署解决方案在未来的优势将更加明显。技术的快速发展和系统架构的日益复杂化,将使得云部署解决方案因其灵活性、可扩展性和易于管理的特点,在多种应用场景中优势更加明显。因此,企业需要重新评估其AI部署策略。
以上为部分内容,查看完整内容:《大模型价格战将加速企业大模型部署策略向云端迁移》(或咨询客服【微信:zimu738】)
相关研究:
• 沙丘智库《2024年生成式AI案例研究简报(6月)》198个生成式AI案例、243页PPT
• 关于生成式AI的热门问题,从落地场景到实现路径
• 沙丘智库(更多大模型研究可查阅“沙丘智库”官方小程序)
*有任何需求可咨询客服微信:zimu738