谷歌把翻译拉回本地

8月6日, 谷歌Lab团队推出了一款名为Gemma的离线翻译设备, 该设备无需联网, 而是将翻译功能直接装进硬件里, 其总参数量为51亿, 激活参数是23亿, 它专门针对手机、浏览器、树莓派这类资源有限的设备进行设计。

往昔运用谷歌翻译时, 非得连接网络方可运作。时至今日, 谷歌将整套流程迁移至本地环境 , 先是用户朝着麦克风发起言语表达这个动作, 紧接着, 所用设备便能够即时进行转写, 随后又会播报译文内容, 并且还能够於屏幕领域显现既定原文 以及对应的译文成分。整个流程始终丝毫并未去靠依赖云端环境, 全由前文所述独立构建。

硬件配置简单实用

这套设备的关键部分是一块树莓派Pi5单板计算机, 其大小仅如巴掌一般。当用户冲着麦克风说话时, 该设备会将语音转变为目标语言, 之后借助扬声器播放出来。显示器上会同时呈现翻译前后的文字信息。

整套处理流程均于本地达成, 翻译推理由谷歌为边缘设备预备的LM执行框架予以负责, 语音转写以及语音合成皆借助本地AI加以处理, 这表明即便全然断网, 亦能够与说不同语言之人作面对面交流。

离线翻译的优势明显

好多人在出国游玩之际碰到过尴尬状况, 手机处于没信号状态、酒店WiFi无法连上, 想要问路却没办法沟通。有了这款离线翻译装置, 这些个问题统统都不存在了。不管是在飞机之上、地下室当中还是偏远乡村里面, 均能够正常予以使用。

对于那些常常需出差的商务人士来讲, 这款设备将网络不稳定的难题给解决掉了。在信号欠佳的会议室里, 在跨国航班之上, 就算不依靠网络也能够达成基本的沟通。其翻译质量尽管比不上云端的大模型, 然而用于日常交流却是足够的。

端侧模型不再是演示

将大模型放置进巴掌大小的开发板之中, 这一行为自身有着技术规格包含其中。往昔端侧模型大多处于实验室跑分水准层面, 实际运用场景颇为稀少。谷歌此次径直把完成品给呈现出来, 插上电源即可使用, 对外界网络不存在依赖。

意义并非在于端侧模型参数的大小, 而是在于产品化道路清晰了, 是可使的针对此给定依据一套措施开展进一步的开发, 从而去实现将其融入到相应各个领域当中, 其中含有手机App、智能手表以及车载系统这几类, 并且面向未来, 这类设备将会呈现出日益具备普及特点的趋势。

对开发者的价值

谷歌专为边缘设备开发者准备好了LM执行框架, 这使得本地模型部署变得更为简便快捷。开发者无需从一开始搭建整个流程, 可直接运用这套框架将模型运行在资源受到限制的设备之上。

对于普通用户而言, 这表示在未来, 手机会自带翻译功能, 平板也会自带翻译功能, 智能眼镜同样会自带翻译功能。无需下载额外的App, 不用进行网络切换, 只需打开便可以使用。翻译服务将会从云端下沉至终端设备当中。

未来前景如何

这款设备当前是面向开发者以及科技爱好者的, 不过其潜力是非常大的。随着端侧芯片性能得到提升, 在未来手机内置离线翻译会成为标配。出国旅行的场景会从中受益, 外语学习的场景也会从中受益, 跨境商务的场景同样会从中受益。

谷歌所选取的这条路径是正确无误的, 将大模型从云端之中挪移回来拖至本地, 这样一来, 既对用户隐私起到了保护的作用, 又把网络依赖的问题给有效地解决了。尽管当下呈现出来的参数规模尚存在着一定的限制, 然而伴随技术不断往后迭代发展, 离线翻译所具备的质量将会发展得越来越出彩。

你认为那处于离线状态的翻译设备会将云端翻译给替代掉吗, 欢迎于评论区域留下言语展开讨论, 要是觉着有作用, 记得进行点赞以及分享呀！