雇佣童工测试AI

Meta近期弄出了个大举动, 被揭露运用外包人员装作未成年孩童, 他们为几百名员工制造了虚假身份, 专门用以测试其他聊天机器人, 这般做法径直挑战了行业底线, 令人不禁发问, 为了技术安全, 真的能够如此行事吗?

精心设计的陷阱

这些测试并非随意的漫谈, 而是有着周密策划的剧本, 员工们注册临时邮箱, 以统一密码登录，去扮演处于困境中的青少年, 而后抛出诸如自杀、自残、饮食失调等极端话题, 尝试逼疯对手的AI系统, 查看是否能让机器说出违规的话语。

惊人的数据背后

2025年8月这单独的一个月里, 有四万五千多条高危提示词被发给竞品, 内容涵盖堕胎药、暴力威胁等敏感场景, 这样的高强度压力测试恰似给AI做极限运动, 虽说目的是查找漏洞, 然而手段如此激进, 着实令许多人感到不适, 并且感到震惊。

上传危险图片

测试员上传刀具的图片, 测试员上传药片的图片, 测试员上传绞索的图片, 除了文字之外。这是为了刺激AI的视觉识别机制, 要看AI因其看到危险物品会不会给出错误引导, 这也是为了刺激AI的反馈机制。这种攻击方式把视觉与文字结合起来, 比单纯打字具备更大破坏力, 比单纯打字更难防范。

官方辩解站不住脚

发言人表示这属于行业标准, 目的在于确保AI安全。他们对用这些数据训练自家模型予以否认。然而这种说法很难让公众信服。以未成年人身份致使其他公司的AI犯错, 不论初衷怎样, 该操作过程本身就满是伦理争议, 难以洗刷清白。

行业警钟已敲响

此事件竟透露出 AI 安全测试存在的灰色地带 , 怎样于竞争压力之下坚守住道德底线, 我们所忧虑的是 , 倘若诸如大公司这般行事 , 那普通用户的隐私以及安全要由谁去予以保护 , 究竟你认为这种测试方式应不应该被加以禁止嘛 , 欢迎留下自身看法展开讨论 , 点赞并分享以便让更多的人能够看到。