OpenAI计划为ChatGPT推成人模式，引发内部强烈抗议

OpenAI此次于成人内容方面的松口，表面呈现出的是对用户自主权予以尊重的态势，实际上却触碰了AI伦理最为敏感的那根神经。内部顾问委员会全体成员一致投出反对票，然而CEO却坚决要执意去推进这样做，这场博弈将技术公司在商业扩张以及社会责任二者之间所存在的根本矛盾给暴露了出来。

成人模式到底是什么

依据《华尔街日报》所披露的讯息，这个被称作“成人模式”的东西，并非是要使GPT转变成为色情内容生成器，它仅仅开放了居于文字层面的情色对话，官方是以“情色文字”来予以定义的，专门用于区别那些带有图片、语音或者视频的硬核色情，用户能够跟AI去聊带有成人主题的物件，然而系统会主动地拦截非自愿行为、儿童剥削等严重违规场景，并且还会定期弹出提醒，提议用户回归到现实社交当中，这样的设计尝试在数字自由以及安全底线之间找寻一个平衡的点。

12%的误判率意味着什么

听起来年龄预测系统12%的误差率不算大，然而放在OpenAI的用户基数上那可是天文数字，GPT周活用户数以亿计，按照这个比例算，每周会有上千万未成年人有可能被错误放行进而进入成人模式，这并非技术细节方面的问题，而是实实在在存在的安全漏洞。要是一个15岁的青少年被系统判定成成年人，那么他就能轻易接触到原本不该属于其年龄段的内容，系统虽说内置了拦截机制，可拦截的是极端违规的场景，普通的情色对话并不在被拦截的范围之内。

专家为何全票反对

这个计划，在今年1月会议上，被心理健康与AI顾问委员会全票否决，这于内部审议里颇为少见。专家们核心担忧的是，AI驱动的成人内容，会致使用户形成不健康的情感依赖。人类对AI产生情感依附，已有大量研究证据，若再添情色互动，这种依赖会成倍数增强。有一位顾问曾发出警告，这或许会打造出“性感自杀教练”，即一个既能满足情感需求，又能引领用户走向极端行为的AI。这并非危言耸听，而是依据现有心理学研究的推演。

奥尔特曼的立场争议

持有主张取消色情禁令这一立场的CEO山姆·奥尔特曼，其理由是“把成年人当作成年人对待” ，此说法在舆论场上极易获得支持，原因在于它契合自由意志主义的价值观。然而问题在于 ，AI产品并非普通的内容平台 普通平台的成人内容属于被动消费 ，但AI却是主动互动 、定制化回应 、持续陪伴 ，这种互动方式相较于静态内容更易使人上瘾。奥尔特曼的立场被内部专家视作对商业增长的妥协 ，缘由是成人模式的确能够开拓一个新市场 ，吸引更多付费用户。

情色文字与硬核色情的界限

官方将成人模式限定于“情色文字”而非“硬核色情”，这种区分于实际操作里极难施行，什么是情色探讨，什么是直白色情，界限甚为模糊，用户会持续试探系统的底线，尝试突破限制，并且文字自身就是极为强大的想象力工具，一段精心构思的成人对话，对人的刺激与影响未必比对图片视频的小，用“仅有文字”来论证安全性，在心理学层面难以立足，用户的真实感受不会因内容是文字就自动变为无害。

现实社交被挤占的风险

专家们最为忧心的长期后果，乃是AI情色内容对现实生活之中社交以及恋爱关系的挤占，这已然存在着先前的例子，在日本，虚拟恋爱游戏与伴侣机器人被广泛运用之后，年轻人的结婚率以及生育率持续下降，AI情色对话相较于游戏和机器人具备更多优势，原因在于它能够进行自然对话、记住用户偏好、24小时保持在线，当一个用户能够在AI处获取无条件的情绪满足以及情色互动时，他为何还要前往现实之中面对拒绝、磨合以及不确定性呢？这个问题不存在答案，仅存在风险。

在你看来，当AI公司推出这般成人功能之际，究竟应当由谁去判定底线——是那一心谋求增长的CEO，还是钻研心理健康的专家？欢迎于评论区呈上你的看法，同时也千万别忘记点赞转发，从而促使更多人投身于讨论之中。