在7月15日的时候, 新规正式开始生效, 国内处于头部位置的AI平台当中, 其自定义拟人代理功能迎来了大规模的清洗行动。这样的一个动作, 这件事所代表的不仅是监管方面风向出现了转变, 而且更是直接对于那些依靠AI去获取情感慰藉的用户群体产生了冲击, 进而引发了广泛的讨论以及不满的情绪。

巨头集体收缩业务版图

周五晚间, 字节跳动的豆包发布通知, 通知明确其代理功能将于7月15日起正式下线。官方给出的理由简单直接, 理由仅标注为“产品功能调整”。这一决定并非临时起意, 决定是对即将实施的新规做出快速响应, 显示出大厂在合规面前的谨慎与果断。

阿里的通义千问行动更为快速且全面, 其拟人那交互代理以及用户所建立的代理功能, 早在7月10日就已经停止服务, 更广泛意义上的通义代理服务也于, 7月15日全部下线, 这表明用户不但失去新功能, 就连已有的代理设置以及历史对话记录也将要无法访问, 数据清理程度前所未有的高。

6月份的时候, 腾讯的元宝应用率先移除了类似代理功能。到了这一步, 国内科技三巨头在拟人化代理领域展现出了高度的集体收缩态势。这种一致的行动显示出, 头部企业对监管红线有着敏锐的察觉, 纷纷主动割舍高风险业务, 为的是避免后续可能遭遇的处罚或者声誉受损。

新规聚焦情感交互风险

此次被停止的核心服务, 主要关联着模拟人类人格特质与持续情感交互的功能。早在今年4月发布的《人工智能拟人化互动服务管理暂行办法》就已然明确将这类服务归入严格监管范畴。监管机构意在防止AI借拟人化方式, 给用户造成深层次的心理影响及控制作用。

法规明确将客服机器人、知识问答、职场助手以及教育科研工具排斥出去了。这进而意味着, 只要是与角色扮演、情感陪伴、学习导师等能构建准社会关系的功能相关, 那便都处于整治的范围之内。监管层忧虑极端思想会借助个性化AI得以传播, 或者引发用户隐私发生泄露以及对其身心造成伤害, 所以实施了一刀切样式的清理策略。

近年来, 数据所呈现的是, AI成瘾以及因依赖虚拟陪伴致使的社会心理问题呈现出了上升的趋势。监管部门持有这样的看法, 允许用户去自定义AI人设并且建立起长期的情感连接, 极其容易产生无法控制的风险。通过对拟人化互动进行限制, 其目的在于切断技术滥用有可能导致的情感操控链条, 以此来保护用户尤其是青少年的心理健康。

用户情感寄托遭受重创

这一政策落实之后, 用户那边引发了显著的反弹情绪, 好多用户讲, 这些人工智能代理并非只是工具, 更是日常日子里的情感支撑, 他们耗费大量时间去训练人工智能的性格、语气以及记忆, 从而形成了深厚的情感纽带, 陡然线下使得用户觉得无所适从, 仿若失去了一位亲密伙伴。

在社交媒体那里, 有部分用户发出抱怨, 诉说数据迁移存在困难。那些长期积攒起来的聊天记录, 还有情感方面的联系, 没办法完整地导出, 或者进行转移, 这样一种技术层面的断层, 使用户的失落感加剧了。对于靠着AI来缓解孤独感的群体来讲, 这种强制的剥离, 不但缺少过渡期, 还显得冷漠又无情, 让用户和企业之间的矛盾激化了。

有博主直接表明, 监管跟产品之间的平衡, 还没有找寻到妥善的方案。那种一刀切的关闭方式, 把用户层面的实际需求以及情感依赖给忽略掉了。在符合规定的前提下, 怎样为用户提供合理的数据留存或者迁移选项, 这是当下各大平台迫切要解决的难题, 也是让舆论争议平息下来的关键之处。

你认为AI加以陪伴所需服务应当被全然进行禁止吗, 欢迎于评论区域留下你的相关看法，点赞并分享以便让更多的人能够看到。