浪潮开源源Yuan3.0 Ultra多模态大模型，企业应用能力强

3月6日，浪潮信息把一款有着千亿参数的多模态大模型径直实施开源之举，这般情形下，企业能够免费去进行下载，能够在本地开展部署，甚至还能够开展二次开发，而这原本是需要天价预算才能够得以使用的AI大脑，企业级AI应用的门槛确凿无疑地被大幅度拉低了。

万亿参数的底子

Yuan3.0 Ultra的初始参数量，达到了1515亿，这等同于给模型构建了一个超大规模的神经网络框架，为了使其更高效地运行，团队在预训练过程中，采用了LAEP方法来进行优化，把参数量精简到1010亿，并且训练效率提升了49%。

按照这样一种将大框架先行构建起来 ，接下去的情形就是再去实施精准的诸如修剪枝叶般操作的思路 ，使得模型在维持住强大能力的状况下 ，变得不再那般臃肿。最后的结果就是激活参数量能被有效的控制在68.8以亿为单位的数量上 ，这所蕴含的意义就是在实际运行期间 那种对算力的消耗 ，要远远低于相同体量规模的模型 ，从这个层面理解 对企业进行部署这件事情来说 会显得更为友好。

读懂图文表格的专家

在企业文档当中，常常并非单纯的文本形式，其中夹杂着图片，还有图表以及含有多级结构的表格。Yuan3.0 Ultra运用了统一的视觉与语言协同建模架构，它能够如同人一样，在同一时间进行看图以及读文的行为，进而理解图文混合编排文档里的复杂信息。

在针对处理财务报表，以及带有示意图的产品说明书这般情况之时，它所具备的这种能力显得格外实用。它并非仅仅将图片单纯地识别为文字，而是能够切实领会图表背后所蕴含的数据关联以及逻辑关系，从而为深度的文档分析奠定了基础。

检索增强生成的深度优化

依靠单纯模型记忆的知识极易过时，存在这样一种技术，它名唤RAG，借助此技术模型能够先去检索外部数据库而后再去回答问题，有一款名为Yuan3.0 Ultra的产品，其围绕企业应用针对RAG展开了专门优化，进而能够更好地处理跨文档之类的知识检索任务。

这表明，当员工就一个关联多个部门文件的问题提出询问时，模型能够精准地于海量文档里定位相关信息，并且将其整合成完整的答案。相较于通用模型，它在企业私有知识库方面的问答准确率以及相关性会有显著的提升。

工具调用与智能体

真正成为“数字员工”似的大模型，必将有能力对外部工具施予调用，Yuan3.0 Ultra于该领域予以深度优化处理，其能够对用户指令加以理解，进而自行开展API调用行为、数据库操作活动或者办公软件使用操作。

如，它可整合进智能体架构里，按指令自行达成“提取上季度销售数据、剖析区域增长趋向、创作出可视化图表且写入周报”这般一系列行为，切实达成多模态数据带动的业务流程自动化。

102层的MoE架构

构建于混合专家架构之上的模型的语言主干网络，有着102层的深度，这表明它拥有极强的语义理解能力，同时，引入的局部因子对齐机制，强化了对词语以及句子间复杂关系的建模。

于此情形下，在针对长文档摘要、以及诸如此类复杂逻辑推理这般任务予以处理之际，Yuan3.0 Ultra展现出更为精准的表现。LFA机制宛如一个更具智慧禀赋的注意力系统，助力模型捕获文本之中居于关键地位的诸多线索，防止在冗长繁杂的信息里面丧失重点之处。

全面开源的诚意

此次开源，不但放出了16bit的模型权重，还公布了4bit的模型权重，并且附带了完整的技术报告，以及训练方法，还有评测结果，让开发者拿到的是一整套能够复现的技术方案，而非仅仅只是一个黑箱模型。

公布开源出处，表明任何团队均可据此展开二次训练或者进行行业定制。从具备40亿参数的Flash版本，到此次拥有千亿参数的Ultra版本，源系列大型模型正着手构建一条涵盖各异场景的完善产品线，以供企业依照需求来挑选。

倘若是你身处的企业打算引入人工智能来处理内部文档，你会抉择径直运用开源的Yuan3.0 Ultra去开展开发工作，还是静候商业化的闭源解决办法呢？欢迎于评论区去分享你的见解，点赞以及转发以使更多技术决策者目睹此次开源的价值。