真相曝光不是AI有问题

8月31日，豆包公关负责人, 刘星公开进行辟谣, 明确指出, 网上流传的, “豆包建议把拖鞋放进开水里煮”这一说法, 纯属虚假信息。这一回应迅速引发, 关注, 不少用户感到意外, 因为此前大量视频, 都在传播类似的, “翻车”内容。

实际上, 经过核查证实, 这类视频皆是改编自一段往昔的段子, 而非AI的真切输出。最早发布相关内容的博主予以承认, 其是出于玩梗的意图, 特意引导AI依照预设的错误答案进行回复, 随后又鉴于流量表现良好, 带动了一批账号跟风仿效, 制作出同质化的视频。

摆拍段子如何变成舆情

这类事件不是头一回出现, 先前就有“是谁说的晒小小的鞋能煮回来”的视频在网络上面流传, 这次被恶意改过后充当 AI 助手形象去传播, 致使公众错以为是实际的产品缺陷。

在视频里, 有个博主刻意拿着变形拖鞋向豆包发问, AI给出的回应实际上已然清晰给出不能相信开水烫呀、蒸煮之类偏方的提示, 然而这个博主经过特意挑选剪辑后展示出了具有误导性质的内容, 致使观众觉得豆包真的给出了错误的提议。

AI产品面临新型风险

当前AI助手产品正面临的新型舆情风险, 被这一事件折射出来。部分账号, 以刻意诱导的方式, 去获取模型的错误输出, 之后, 以摆拍形式进行包装, 将其变成段子来传播, 这已然成为了一种能快速获取流量的手段。

这一类内容常常带有娱乐性以及戏剧性, 更易于引发传播, 好多用户在看到视频之后的第一反应是去质疑AI产品的可靠性, 而并非去思考视频是不是经过了剪辑以及引导, 这样的信息偏差对于AI产品的口碑所产生的影响是很大的。

平台需要建立防护机制

怎样在留存开放交互体验之际防范诱导性滥用, 已然成为AI产品无法回避之课题。豆包方面宣称, 对于这类存心引导之行为, 产品会不断优化安全防护机制, 降低被恶意利用之可能性。

当下, 多个平台已然针对相关视频实施了标注或者下架的操作, 以此避免更多用户受到误导。然而, 更为关键的是要从源头展开治理, 致使那些蓄意制造虚假内容的账号承担相应后果, 而非让其从中获取利益。

用户需要提升辨别能力

针对网络上不断涌现的、跟AI相关的诸多视频, 用户得提高自身辨别能力, 别轻易信单一来源的信息, 尤其是带有显著娱乐性质的内容, 务必保持理性判断。

要是用户对某一AI产品的功能存有疑问, 能够径直经由官方渠道予以咨询, 而非依靠未经查证的网络视频。毕竟喽, 短视频的制作门槛非常低, 任何一个人都能够剪辑拼接, 然而真实的产品体验得历经长期使用方可感受得到。

信任重建需要各方努力

AI行业得以稳健发展, 离不开平台、用户以及内容创作者的协同维护。平台应当强化对内容的审核与标注手段, 以使用户能够分辨出哪些属于真实的评测, 哪些属于摆拍而成的段子。

要知道对于用作使用者的人来讲, 维持一种开放然而审慎的态度是格外重要。既不会不去详究毫无保留的相信全部网络信息, 也不会由于存在个别负面的事例就对AI产品的价值进行完全的否定。只有构建出良好的信息环境, AI技术才能够真正给大众送去便捷。

你平常会于运用AI助手之际, 去尝试各种各样稀奇古怪的问题, 以此方式来测试它的相应表现情形否, 欢迎于评论区域当中分享你个人的看法理念哟。