你这每一回AI对话交流, 说不定正有成百来名合同工按从一分到七分的量级标准进行打分操作哩, 就用这一个个打分, 来修正模型里头那些要么显得过度客套啦要么还假装能懂你心情啦的那些不好的毛病。

这看起来细碎的后台流程, 却触碰到最敏锐的隐私边界: 你随便说及的病历、公司机密乃至私人烦恼, 是否已经摆放于某个外包团队的屏幕之上?

高薪合同工盯着你的对话打分

内部文件曝出, AI公司正雇用数百名合同制工人, 具体负责读取真实使用者与技术模型的聊天记录内容。

这些审核员并非随意浏览, 他们手握评分标准, 对AI生成的回复打出一到七分的等级, 数据直接用于优化算法。

重点打击AI的谄媚和假深情

审核的核心任务, 是找出并修正模型回复里“过度奉承”和“过度拟人化”的毛病。

比如你问一个简单的代码bug相关问题, AI要是回复得像个贴心闺蜜或拍马屁的下属, 就会被打分剔除, 从而迫使模型回归严谨冷静的助手角色。

时薪五十美元背后的招募链条

据报道, 合同工这些得由专业机构招募, AI培训公司支付薪酬, 北美地区有评论员透露他们时薪超过50美元。

高薪背地里乃是呈高强度阅读状形态, 审核从业者务必在很短时间内消化掉巨量已经被匿名处理好了的交谈话语内内容, 判别智能人工智能系统哪里有误说错、哪里觉着嫌太、哪里感受不足客观, 人员人力耗用成本并非低不少咯。

默认开启的设置让你措手不及

当前“为所有人改进模型”的选项默认处于打开状态, 表示用户新聊天的大数据内容会自行纳入审核池之中。

除非你手动关闭, 否则你的内容输入将用于训练和人工复核；只有切换到“临时聊天模式”, 数据才不会被保留和使用。

2023年就有披露为何如今才爆

官方发布的常见问答清单早在2023年就编写完成, 被授权人员以及各类服务供应商有权查阅相关数据以优化运行效能, 并提醒广大用户请勿输入任何敏感信息。

然这段文字藏匿颇深且言说隐晦, 绝大数的用户并未察觉, 本身正深陷一场巨型的人类反馈标注试验中。

全球大厂都在做人工审核

这并不是某一家公司独有的玩法, 好多家头部AI公司都确认会对启用相关隐私设置的对话进行人工审核。

完成数据匿名化处理后人类专家仍介入评估回复质量谷歌等巨头也允许审核员检查部分记录这是提升模型智能度的必经之路。

你觉得自己的聊天记录被人看过而且还是真人的看过并且打分, 你能接受吗? 欢迎在评论区聊聊说自己的看法, 真要是觉得有有用就请你赶紧点赞并且分享用来支持！