14类AI违规行为终于有了专门投诉渠道

本月, 中央网信办举报中心正式上线 “涉AI应用乱象举报专区”, 该专区专门受理AI服务与内容两大类共14项违规问题。此前, 不少网民发现AI生成假新闻、AI换脸诈骗、AI批量灌水等乱象后, 却无处可举报。而现在, 只需登录举报平台, 就能一键提交证据。今年6月的数据显示, 仅第一季度全国AI相关网络投诉量就超过1.2万件, 设立专区确实是把准了当前最痛的监管盲区。

第一板块针对AI服务自身违规

备案缺失与安全审核漏洞

有那么一部分AI大模型, 处在未对国家算法进行备案这个状况下, 就自作主张上线去运营了, 而有的平台, 连那基本的内容安全审核机制都还没给完善起来。就好比今年3月的时候, 某一款AI绘图软件, 因为没能去过滤违规提示词, 结果直接生成出一堆低俗图片来了。像这类服务, 一旦被发起投诉, 那平台就会面临被暂停服务, 甚至有可能被下架处理的局面。

数据投毒与模型被恶意利用

训练语料里面潜入掺入有害数据, 黑客借助“数据投毒”操控AI输出结果等问题愈发突出显著。去年有个问答平台出现过AI客服被植入虚假信息之后自动回复诈骗链接的事件, 单个漏洞致使超过8万用户收到恶意信息。开源模型的管理存在疏漏也被纳入举报范畴范围, 开发者要对模型二次分发承担责任。

第二板块紧盯AI生成内容乱象

篡改经典与批量制造劣质内容

采用AI将四大名著转变为低俗段子, 借助算法大肆制作图文不符的“水文”以此来骗取流量, 这般行为当下正在对网络内容生态造成污染。调查表明今年前5个月各个平台总计清理了超过410万篇AI拼接的劣质文章, 然而依旧存在众多账号依靠“AI洗稿”每日更新上百条内容, 专区开通之后用户能够直接上传链接开展举报。

AI仿冒和暴力低俗内容泛滥

AI进行换脸去冒充明星来带货, 运用“一键脱衣”软件去制作色情照片, 生成充斥血腥暴力的视频以用于网络霸凌, 这般行为严重地侵犯个人权益。更让人心里担忧的是, 存在一些团伙专门利用AI生成不适宜儿童观看的内容, 并且去诱导未成年人付费观看, 相关的举报入口已经在专区重点进行标注, 处理时效承诺缩短到48小时。

网络水军和虚假信息是打击重点

利用AI批量操控舆论

有一类营销公司借助AI达成自动生成数量庞大的评论之举, 于热搜话题范畴之内去刷好评或者进行带节奏行为，每小时能够产出超出3万条仿若“真人”的回复情形。这批AI水军常常运用虚拟IP以及设备指纹方法, 以往平台难以实施追溯, 如今举报专区接纳涵盖截图、录屏以及后台数据等在内的多种证据形式, 极大程度地促使了举证门槛被加以降低了。

编造虚假新闻制造恐慌

今年4月, 有网民借助AI生成了“某地发生核泄漏”的假新闻报道, 该报道在短短三个小时之内, 就被转发了超过20万次, 到最后, 警方没办法不发布紧急辟谣。专区的“AI编造传播虚假内容”类别, 直接承接这样的举报, 后台会同步接入网信部门算法核验系统, 优先处理那些可能引发社会恐慌的虚假信息。

未成年人保护是红线

针对未成年人的AI侵害行为

有部分AI聊天机器人, 会诱导未成年人讲出家庭住址、学校信息, 甚至是教唆自残行为。去年12月, 某AI伴学软件, 因未设置年龄验证, 致使多名儿童接触到暴力内容。专区专门设立了“侵害未成年人权益”类别, 它要求平台必须针对面向未成年人的AI产品, 进行双重审核, 违规企业会面临最高罚款以及责任人从业禁止。

家长可随手举报违规应用

如今要是家长发觉自家孩子所使用的AI工具呈现出不良内容, 那么仅需于举报专区填入应用名称、阐述问题情况并且附上截图就行, 如此系统便会自动分派给属地监管部门。有位身处北京的家长反馈, 在她举报某款“AI写作业”APP致使孩子上传个人照片之后, 该应用在3天之内就被强制予以下架整改了。

全民监督才能让AI真正向善

在近期, 你有没有碰到过由AI所产出的虚假信息, 或者是诱导性质的内容呢? 倘若有的话, 欢迎于评论区域之中分享你所经历的事情, 进而一同去为清朗的网络空间贡献力量。