端侧AI迎来新突破

近期, 阶跃星辰推出了Step Edge系列模型, 此系列模型是专门针对手机以及车载设备进行优化的。这一行为意味着什么呢? 意味着AI不再只是单纯依赖云端, 而是直接在终端设备上运行了。

这种改变致使显著的速度得到了提升, 官方所给出的数据表明, 工具调用延迟低到了0.1秒, 可以说在日常使用当中基本上很难感觉到存在等待, 对于那些追求优质高效体验的用户来讲, 这无疑是一个极大的进步, 是这样的。

四大版本满足多样需求

该系列含有基础版, Audio版，GUI版, Gen版这四个版本，不同版本涵盖了文本场景, 图像场景, 音频处理场景, 屏幕理解场景以及界面操作场景。

按照自身设备类型以及功能需求, 用户能够挑选出最适配的版本。不管是单纯的语音识别, 还是繁杂的图像生成, 都能够寻觅到相应的解决办法, 灵活性显著提升。

混合架构平衡性能与安全

Step Edge运用本地同云端相连接的混合式架构, 简单的任务于本地达成, 复杂的推理交付给云端, 如此既确保了速度又兼顾到了处理能力。

这样的设计致使敏感数据不必上传至服务器, 显著地加大了隐私安全程度。于弱网环境当中, 本地处理能力始终稳固, 防止了因网络波动致使的服务中断。

自研引擎降低硬件门槛

为促使性能得以进一步优化, 官方同步发布了Step NPU推理引擎, 此引擎意在极力降低终端芯片的推理延迟, 使得普通硬件也能够顺畅运行大模型。

这表明, 用户无需去购置价格高昂的顶级芯片, 便可体会到高效的AI服务。硬件成本的下降, 对AI功能于更多大众化设备里普及开来, 是有帮助的。

核心指标全面领先

于29项核心评估指标里, Step Edge系列全都处在首位, 这证实了它在终端侧多模态能力方面的领先态势, 技术实力获得官方承认。

那多项处在首位的成绩并不是偶然产生的, 而是凭借团队良久以来深入钻研底层技术而造就的成果。这样一种全方位领先的优势, 会为后续的功能迭代以及应用拓展筑牢较为坚实的基础。

智能生活更加私密实时

人工智能终端化进程的加快, 致使手机、汽车等设备愈发具有智能性以及私密性, 用户能够在不将个人数据予以暴露的情形下, 享有实时的智能助手服务。

今后, 这般模式或许会变成智能设备的标准配置。我们期望目睹更多基于该技术的全新应用诞生, 完全变革人机交互的形式。你认为端侧人工智能会替代云端人工智能吗?