EXAONE 4.5 技术报告

本技术报告介绍了 LG AI Research 发布的首个开放权重视觉语言模型 EXAONE 4.5。 EXAONE 4.5 的架构是将专用视觉编码器集成到现有的 EXAONE 4.0 框架中，从而实现视觉和文本模态的本机多模态预训练。该模型经过精心策划，在大规模数据上进行训练，特别强调与 LG 战略应用领域相一致的以文档为中心的语料库。这种有针对性的数据设计可以显着提高文档理解和相关任务的性能，同时还可以广泛改进通用语言功能。 EXAONE 4.5 将上下文长度扩展至 256K 个词元，促进长上下文推理和企业级用例。比较评估表明，EXAONE 4.5 在一般基准测试中实现了具有竞争力的性能，同时在文档理解和韩语上下文推理方面优于类似规模的最先进模型。作为 LG 持续努力实现实际工业部署的一部分，EXAONE 4.5 旨在不断扩展更多领域和应用场景，以推进人工智能，让生活更美好。