张一鸣明确拒绝AI蒸馏

字节跳动的创始人张一鸣, 于8月份的时候, 在Seed团队会议当中, 确定了公司技术路线的基调。他清晰地表明, 就算是在当下, 暂时处于落后于竞争对手的状况, 字节也绝对不会运用AI蒸馏技术去对自身的模型进行优化。

这般做法意味着公司宁可去踏一条更为艰险的路径, 也不情愿借助别的公司的先进模型用于训练自身的产品。张一鸣的此项决定, 展现出他对技术自主权的看重级别, 还折射出他针对行业竞争格局的深度思索。

蒸馏技术是什么

简单来讲, AI蒸馏是这样的, 即运用更先进的模型输出的结果, 去训练相对较为薄弱的模型。举例而言, 有一家公司, 它能够借助OpenAI的GPT模型生成数量众多的数据, 接着运用这些数据来训练自身的大模型, 如此一来便能够规避从一开始就进行训练所产生的巨大成本。

处于行业内部的这种做法并非鲜见, 存在着不少公司运用类似的途径来促使自身的技术迭代得以加快。然而, 张一鸣明显没有打算去选择这样的道路, 他期望凭借字节自身所具备的数据以及算力, 从而塑造出切实归属于公司的核心技术能力。

背后的政治考量

有知晓情况的人士透露, 张一鸣所做出的这个决定, 在很大程度上是受到了字节与美国政府之间那种复杂关系的影响, 字节旗下的TikTok于美国面临着所有权方面的争议, 这样一种政治压力致使公司对于技术依赖外部来源这件事变得愈发谨慎。

要是字节于技术层面过度依靠美国公司打造的模型, 那么极有可能会在国际政治博弈里处于更为被动的状况。张一鸣作出坚持自行研发, 这既是针对技术主权的一种保护, 也是在复杂的国际环境当中所做出的战略抉择。

行业内的蒸馏争议

在较近的时期之内, 美国的AI公司OpenAI, 指控了字节, 以及月之暗面, 还有智谱, 另外还有阿里巴巴等中国公司, 针对其模型搞蒸馏这一行为。而这些指控, 引发了行业对于技术伦理, 以及知识产权边界的讨论。

需要留意的是, OpenAI自身也曾遭遇过类似的蒸馏方面的质疑, 这致使它所提出的指控看上去稍微显得有些双重标准的意味。然而不管怎样, 字节被排除在了指控名单之列, 这表明它在技术路线之上着实做到了具有一定程度的低调以及独立性。

字节的技术路线选择

字节跳动于AI领域的投入向来颇为巨大, 从起初的推荐算法开始, 直至如今的多模态大模型, 公司一直都在不懈追求技术突破。张一鸣对蒸馏技术予以拒绝, 这意味着字节将会持续加大于底层模型研发方面的投入。

这种选择尽管会致使短期内技术迭代的速度有所减缓, 然而从长远的角度去看, 却对构建真正的技术壁垒很有帮助。在当下AI竞争愈发激烈的情形下, 拥有自主可控的核心技术, 或许是字节最为看重的长期竞争力。

对行业的影响

张一鸣所做出的决定, 极有可能对整个中国AI行业的技术路线产生影响。要是字节公司坚决秉持自研, 那么其他公司或许会再次去评估蒸馏技术的风险以及收益。而这样一种趋势, 很有可能促使行业朝着更为原创的技术方向迈进。

与此同时, 这还向市场传达了一个信号, 即技术自主权正逐渐演变成企业竞争当中相当关键的考量要素。于将来而言, 具备独立研发能力的公司, 极有可能在政策以及市场层面获取到更为显著的优势。

你认为字节执着于自行研发的路线, 能够在人工智能的竞争当中行进多远呢 , 欢迎于评论区域去分享你个人的观点 , 要是觉得这一篇文章对你具备着帮助作用, 可要记得进行点赞操作以及转发予更多的友人。