AI文本自带隐形标记

OpenAI宣称其有部分模型所生成的文本会带有一种隐形水印, 这种水印可不是肉眼能够看见的标志, 而是隐匿在选词方式当中的统计模式里, 就算用户只是进行简单的复制粘贴, 这些标记也依旧会跟随着文字一同传播。

此技术的最初目的在于提升内容透明度, 以使用户能够辨别出哪些文本是经由人工智能生成的。官方宣称这是践行欧盟《人工智能法案》相关承诺的关键举措, 其目的在于打击虚假信息的传播。

用户反应强烈不满

不少用户为此感觉到困扰, 原因在于哪怕是运用AI来展开简单的校对、翻译或者总结, 所生成的文本也有可能被加上标记。有用户向媒体诉说, 这致使他们直接取消了订阅服务, 觉得这样的做法侵犯了正常的使用体验。

普通创作者, 是可能会于水印在网络上广泛进行传播之际, 莫名其妙地遭受到被判定为AI生成内容提供者误会的，人们所担心的正是如此这般。这般担忧, 促使不少科技行业从业人士展开寻找绕过水印办法的行动。

开发者的反击行动

仅仅是在OpenAI宣告该计划过去几天之后, 法国的科技创业者Meyer进而推出了一个被命名为GPTFree的开源项目。这个具备将水印统计模式加以瓦解功能的工具, 能清除隐藏字符串, 消除原有元信息, 并且在维持本意的状况下对文本予以重新编写。

据Meyer言说, 首个版本光是开发完成就只用了大概5个小时。他宣称自身是全然支持内容归属标注的, 然而却坚决地抗拒当下的水印技术, 觉得将作者身份变为非黑即白的裁决了。

工具热度迅速飙升

到现如今, GPTFree这个项目于GitHub之上已然得到了超出1.4万个星标, 借此展现出开发者群体的高度留意。与此同时, 那位常驻于东京的软件开发者Ansh Aneja同样研发出了专门针对于OpenAI水印的去除工具。

Aneja发布了一个本地开源版本, 它名为Copyleaks。他在社交媒体上透露, 该工具在一天之内, 从零用户增长到了8500名用户, 不过这一数字还需要去核实。

法律处于灰色地带

对于欧盟要求人工智能AI公司为其所生成的内容添加持久性标记, 然而, 就第三方可不可以主动将这些标记给移除掉而言, 当前并没有明晰确切的规定存在。欧盟委员会的发言人表明指出, 相关的指导方针规定要求水印系统应有能力抵御常见的修改方式。

有法律方面的专家表明, 《人工智能法案》自身是没有去禁止人们开展开发或者分享水印移除工具这一行为的。然而要是用户借助这类工具把AI生成的内容装扮成人类创作的模样, 那么就有可能会面临合规方面的风险。

水印技术面临挑战

专家宣称, 不管水印技术朝着怎样的方向发展。总归是有着被去除的可能性存在。苏黎世联邦理工学院的研究人员表明。用户只要针对文本进行重新措辞。便能够将原有的水印模式予以破坏。

OpenAI也认可了这一限制之处, 表明其打算同步推出文本检测应用程序编程接口, 把水印加于8月2日以及之后发布的全新模型上。不过随着检测工具的公开, 对抗技术的较量也会持续不断地升级。

对于以AI水印技术为主题的相关情况, 你持有怎样的一种看法呢以及你觉得那些由开发者所创造出来的移除工具, 会不会对AI内容的传播格局产生改变呢而欢迎你在评论区域之内去分享你个人的有关看法要是你感觉这篇文章具备可使用价值的情况之下请点赞并且分享给更多的朋友。