现在企业可以直接用Azure账户调用大模型了

这次合作的核心变化在于, 企业客户无需再进行单独注册, 无需进行单独签约, 也无需对一套模型平台进行单独管理。只要你拥有Azure账号, 便能够直接在微软云上调用这些大模型, 身份认证、网络配置以及安全策略全都复用微软现成的体系。企业IT部门不必再额外学习一套系统, 采购流程也简化了许多。这种整合方式让众多正在使用Azure的企业觉得省心。

此外, 全部用量均会统一纳入Azure账单之中, 如此一来, 财务进行对账, 以及开展预算管控, 都会更为便利。针对那些有着严格合规要求的金融、医疗、政企等客户而言, 这般统一的治理体系能够极大程度地降低风险。无需再忧心数据会流向外部平台, 因为所有操作都是在微软云的安全边界范围之内予以完成的。

核心功能支持提示缓存和扩展思考

新服务给出了两项, 对开发者以及企业用户而言颇具实用性的功能。其一为提示缓存, 简而言之, 即重复性的请求无需每次均重新予以计算, 能够显著降低响应时间以及调用成本的费用金额。就从事客服、文档生成等高频场景工作的企业来讲, 此项功能能够直接起到节省资金的作用。其二是扩展思考能力, 模型在回答之前能够多花费几秒时间进行推理, 在处理复杂逻辑问题以及多步骤任务之际会更为精准准确。

这两项功能, 皆是企业级应用当中时常被予以要求的基础能力, 以往是要自行封装去实现的, 如今模型直接就给予原生支持了, 如此便降低了开发门槛, 对于正着手搭建AI应用的技术团队而言, 能够更快速地将产品推向生产环境。

客户可以自主选择数据驻留区域

不同的国家, 不同的地区, 对于数据存储有着不一样的要求, 像欧盟的GDPR, 国内的网络安全法。此次服务, 允许客户自由去选择数据存放的区域, 企业能够依据自身法规允许的需求, 将数据留存于指定的Azure数据中心。而这对于跨国企业, 或者有着严格数据主权要求的客户而言, 是一项相当关键的选项。

以往不少时候, 模型厂商仅给出固定的几个区域, 为合规企业只得去做额外的数据迁移或者是加密处理。当下直接选好区域便可使用, 整个合规流程变得透明且可控。不管客户处于北美、欧洲还是亚太地区, 都能够找到适宜的部署方案。

模型运行在Ultra系统上性能强劲

这些大模型的底层所运行的是Ultra系统, 它是一个高性能的计算平台, 是专门针对大规模AI推理以及训练而设计的。Ultra系统能够提供充足的算力, 使得模型在处理复杂推理、针对长文档进行分析、代码生成等这类重任务时维持稳定以及快速。有测试的数据显示, 在同等任务的情况下, 其响应速度相较于上一代提升了大约30%。

搭建了生产系统的Bolt公司, 是基于这套服务来进行搭建的。Bolt的副总裁Gary曾提到, 他们之所以做出选择, 关键因素在于Azure所提供的可靠性与安全性。对于企业而言, 即便模型再强大, 也必然需要稳定的基础设施给予支撑, 不然一旦出现故障, 业务便会中断。而Ultra系统与Azure的结合, 恰好解决了这一问题。

多家企业已基于该服务构建生产系统

当下, 包含Bolt在内的好多家企业, 把这一套模型, 集成进了他们各自的业务流程之中。Bolt这是一家从事电商以及支付方面业务的公司, 在订单处理这个环节, 在客户咨询这个环节, 在风险检测这些环节中, 这家公司运用上了大模型。Gary宣称, 从开展测试直到上线, 仅仅耗费了几周时间, 整个过程十分顺利, 模型所呈现出来的表现, 也契合预先的期望。

这些处于先行阶段的企业案例, 为后续的客户给予了可供参考的内容。这一情况证实了这套服务, 不但具备运行演示Demo的能力, 还能够切实地对实际业务起到支撑作用。对于那些正在对是否采用大模型进行评估的企业而言, 当看到同行已经取得成功时, 其决策信心会变得更为强大。并且, 微软Azure的生态系统成熟, 在进行集成时不会出现过多意外的问题。

微软云携手前沿算力加速企业AI落地

这一回的合作, 并非仅仅是使得一个模型得以上架, 更是意味着一种全新范式的构建。于算力巨头的前沿基础设施予以加持的状况下, 顶尖模型的性能以及云服务的稳定性实现了深度融合。企业无需再于模型质量与基础设施之间进行抉择, 能够直接获取到一个开箱即用的生产级方案了。

对于那些正处于规划AI战略进程中的企业而言, 当下乃是一个极为不错的切入时机, 无需自行去搭建算力集群装置, 不必担忧合规方面所带来的诸多繁杂事务, 借助Azure便能够直接使用顶级模型以供运转, 如此一来便极大程度地缩短了从技术验证直至业务上线所需要耗费的时间周期, 在未来, 更多数量的企业说不定都会挑选这种云上集成的方式, 用以加速AI落地实践。

您认为企业运用大模型时最为看重的究竟是模型自身所具备的能力, 还是模型在实际应用过程之中的部署便利性? 欢迎诸位在评论区域之内分享您自己个人的看法, 麻烦您点赞以及转发这一内容, 从而使得更多的人能够看到这一全新的变化。