社交平台将要对AI账号展开整顿行动了, Meta宣称要把“AI创建者”标签变更为“AI生成的个人资料”, 那些没有贴上该标签的AI账号将会遭遇限流情况, 这一举措精准地命中关键之处, 直接与虚拟网红的生计产生关联了。

标签大变身

8月31日, Meta正式发布了新政策, 把原有的“AI创建者”标签, 全面更名为“AI生成的个人资料”, 并且简写为“AI-”, 这个改动看上去只是换个名字, 可实际上传递的信号十分明确。

新的标签具备着更为直观的特性, 用户只需一眼, 便能够明晰这个账号的背后是有着人工智能在进行运作的。平台怀揣着期望, 借助这种更为直白显著的表述方式, 致使普通用户在浏览相关内容之际, 能够快速迅速地识别出来, 进而避免遭受AI虚拟形象所带来的误导。

虚拟网红泛滥

近些日子, 社交平台上面出现了大量由人工智能创作生成的虚拟网红对象, 这些账号常常以真人身份去操作进行推广行为；更有甚者, 数百个由人工智能生成的号称“虚拟医生及健康达人”的账号已然开始推销保健品, 甚至还发布了相关健康声明句号。

这些虚假账号, 不但扰乱了社区生态, 而且涉嫌违规引流, 能让用户难以分辨眼前这个“医生”究竟是真人, 还是算法生成的图像, 这种信任危机正迅速蔓延。

流量惩罚机制

Meta清晰表明态度, 那些没有依据规定进行标注的由AI所生成的账号, 其内容的推荐以及曝光程度将会被调低。这所蕴含的意思就是此类账号将会被算法给“隐藏起来”, 极难获取到自然的流量。

但那些主动去使用新标签的创作者, 是不会遭受到惩罚的。只要能够遵守规则, 将AI形象用作账号主体这件事本身就是被许可的, 关键要点在于必须做到透明公开。

什么情况下不用贴标签

政策并未毫无差别地涵盖覆盖任何一个全部的 AI 技术。倘若要是用户仅仅只是单纯简简单单地单纯使用AI来进行修治图片处理、润饰文本内容或者作出进行创意方面的调整 , 那么就并不需要被强制要求佩戴添加新的标签。

这表明平台对两种情形做了区分, 一种情形是由AI主导进行的内容创作, 另一种情形是将AI用作辅助工具 , 只有前者才需要进行清晰明确的声明, 而后者是属于正常的使用范畴。

Meta的监管压力

在之前的时候, Meta推出了一种AI工具, 这种工具是支持使用他人肖像来生成图像的 , 当时这件事引发了用户十分强烈的抗议 , 最终它不得不撤回了该功能。现如今最近的阶段, 它又同美国各个州达成了一个180亿美元的和解协议 , 目的是应对社交平台对于青少年影响方面的指控。

这一连串事件致使Meta遭遇了前所未有的监管那种程度的压力, 以及信任方面的威望信用产生危机这般情况。平台迫切需要借助更为严格的治理举措办法来重新塑造用户所给予的信任, 此次新规正是对这种压力以及危机做出的回应当中的具体体现之一。

产业走向规范化

生成式人工智能极大程度地削减了虚拟人格的塑造门槛, 不论是谁都能够在较短时间之内塑造出一个人工智能网红。然而透明度已然变成了头部平台合规治理的关键诉求。

这次政策的调整, 标志着主流社交平台正在加速重塑数字人和虚拟网红的运营规则, AIGC产业会朝着更为规范以及透明的方向去发展, 虚假AI账号的生存空间将会被极大幅度地压缩。

你认为这般标签制度能够切实遏制AI虚拟网红的那种乱象吗, 欢迎于评论区分享你的看法。