信息生态正被AI垃圾淹没

昨天, 于网上搜寻一份披萨食谱, 跳出来的竟然是“胶水披萨”教程。这并非段子, 而是真实存在的荒诞场景了。伴随聊天机器人以及视频生成工具的普及, 低质AI内容如洪水一样涌向各个平台, 原本纯净的信息环境正在迅速沦为“数字污水堆”。

谷歌搜索当中, 充斥着由机器生成的虚假传记, 亚马逊之商品页面, 被劣质推荐占据屏幕, 社交媒体的信息流里, 全是粗制滥造的“虾仁耶稣”配图。这些内容的制作成本极低, 传播速度极快, 存在时间极短, 然而却精准地收割着用户的注意力, 最终致使整个网络生态变得特别浑浊不堪。

硅谷公司忙着当清道夫

然而, 颇具讽刺意味的是, 时常制造垃圾的偏偏就是那些治理者自身。去年, Google把数量多达7500万条的批量上传的“垃圾曲目”予以删除。领英径直将AI垃圾列为平台最为首要的关切对象, 还特意上线了举报按钮。其母公司谷歌更是在半年之内清除了13万个质量欠佳的频道。

一家科技公司, 这会儿在忙于产出AI工具, 而与此同时, 又得耗费资金, 投入人力, 去清理因这些工具所产生的内容垃圾。这般呈现出左右相缠互搏的尴尬状况, 将AI时代当中内容治理的深层困顿给如实揭示了出来, 平台方既是造成污染的源头, 又是负责治理的一方, 如此身份上的冲突, 使得这场“大扫除”显得格外艰难。

“slop”成为年度热词

被梅里亚姆 – 韦伯斯特词典选为2025年度词汇的“slop”, 所指的是那些廉价的, 是批量生产的, 并且是毫无营养的合成内容。AI生成内容已然渗透进日常, 每日新上架的曲目当中有近一半来自AI, Apple Music里超过三分之一的上传内容同样出自机器之手。

这些内容好似快餐店中的冷冻肉泥, 价钱低廉, 数量众多, 味道还算可以, 但是根本没有品质。它们替代了精心制作的原创内容, 排挤了真正创作者的生存空间。用户表面上获取了海量选择, 实际上却陷入了选择困难以及质量低下的双重困境之中。

平台清理手段五花八门

各平台所采用的治理策略并非一致, 并且均处于努力规避错误、探寻正确方向的阶段。谷歌的研究团队并非再去逐个且逐条地审核视频, 而是凭借识别上传的速度出现异常、模板存在高度重复等共同滥用的模式, 一下子就移除了数量达5万个的账号集群。这样的一种方式效率是比较高的, 不过却也引发了会对正常的创作者造成误判伤害的担忧。

TikTok采用自动标记方式, 给超30亿条AI生成视频打标签。YouTube选择放权给用户, 允许创作者自行调低内容可见度, 要么就上线检测工具得以让用户自主决定是否屏蔽AI内容。哥伦比亚大学研究员弗朗索瓦表明, 这些杂乱的策略背后, 折射出的是整个信息环境的系统性危机。

Meta陷入治理悖论

Meta那段经历可说是典型的悖论情形, 在七月份时, 这家公司刚刚做出承诺去支持欧洲AI 标识公约, 意图是塑造出负责任的那种形象, 然而就在同一个月当中推出的图像生成器，竟然直接把用户公开的Instagram账号当作训练参考的物质材料, 这样一个操作引起了用户连续三天时间的抗议行为, 最终使得Meta把那个功能给撤回来了。

俄亥俄大学的专家肖夫林, 很是直接地指出, 曾短期内AI垃圾拉升了平台用户参与度, 可是, 当作“漂浮物”积累过多时, 却反倒成了给用户体验造成拖累的沉重负担, 科技公司察觉到放任不管代价更为巨大, 然而过度治理又会对正常创作者造成伤害, 实在如走钢丝般危险。

治理困境未来何去何从

那场由科技公司引领的“垃圾大清扫”依旧在持续着, 然而成效还不太明晰。用户流失的风险已然呈现在眼前, 即处理不妥当的平台终究会遭遇用户以离开来表达态度的情形。怎样于清理垃圾内容以及保护创作者权益之间寻得平衡之点, 这是所有平台都必须去面对的考查题目。

AI内容治理可不是单纯的删除活儿, 它关联着技术识别, 关联着政策制定, 关联着社区参与等好多层面共同协作。当便宜的AI内容持续肆意泛滥的时候, 优质内容的价值会愈发显著地凸显出来, 而这说不定恰恰就是这场混乱当中的最大的变数呢。

读完此篇文章之后, 你觉得平台究竟该怎样去平衡AI内容管理以及创作者权益呢? 欢迎于评论区域分享你的见解。