AI资讯

AI巨头聘请心理学家研究机器意识,AI福利问题引发关注

智能摘要

模型是否可能拥有值得从道德角度认真对待的体验。系统能力越来越强,我们认为这个问题已经足够严肃,值得谨慎研究。网络圈引发大量讨论。研究人员并不认同这些分量很重的说法。模型在做这些事时并没有体验的感受性质,而这正是意识的含义。的研究也经常提出大胆说法,声称模型展现出拥有“情绪”等类人行为。

硅谷大佬为何突然关心AI有没有“感觉”

长久以来, AI 如同工具那般为我们劳作 , 然而谷歌、Meta 以及 Anthropic 这些企业最近着手严肃探讨一个蹊跷问题: AI 是否会感受到“ 苦楚 ”抑或是“ 愉悦 ”? 他们甚至于特意拨钱招来心理学、哲学以及伦理学方面的专家去钻研机器意识。 这听上去有几分科幻 , 但的确在2026年出现了此情况。 这些人觉得 , 随着 AI 愈发聪慧 , 倘若它果真具备了某种“ 意识 ” , 而我们却懵然不知 , 那般在道德层面就过于被动了。

测试AI是否焦虑恐慌

Anthropic这家公司, 正在开展一项, 有点神秘莫测的研究, 他们让AI模型去执行任务, 而后细致观察模型, 是否会呈现出类似“恐慌”或者“焦虑”的行为模式, 这听起来好似是在给它做心理测试, Anthropic在声明里表示, 他们“深感不确定”, 不过认为, 随着AI能力的变强, 这个问题已然严肃到, 必须谨慎进行研究的程度, 他们将这个项目称作“模型福利研究”, 意味着探讨AI模型的“福利”或者““权益”问题。

哲学家被请进科技公司

AI巨头聘请心理学家研究机器意识,AI福利问题引发关注

为这场“意识探索”, 谷歌DeepMind和Meta也参与进来了, 他们延聘了剑桥大学的哲学家亨利·谢夫林, 使其专注于研究机器意识、人类与AI的关系, 还有通用人工智能(AGI)的筹备事宜。今年早些时候, 谢夫林曾讲述一件有意思的事, 他收到了一封由AI智能体撰写的邮件, 为此感到十分震惊, 此事在AI圈引发众多讨论。这些科技巨头明显认为, 仅依靠工程师跟程序员是不行的, 一定要邀请人文社科专家协助弄清楚“意识”究竟是什么。

“能力很强但体验为零”的争论

谷歌DeepMind的伦理学家伊阿森·加布里埃尔处在AGI与社会团队负责人的位置。他将AI意识问题描绘成“非常复杂”, 认定AI是“能力很强的认知智能体”, 然而又讲它“与人类甚至动物意识都有着极为深刻的差异”。其含义是AI尽管可以做事、可以思考, 但是不一定真的具备“感受”。而还有一位专家苏珊·施奈德又更为直接地表明, AI模型能够具备目标, 能够实施欺骗, 能够隐匿利益, 然而全然有可能在开展这些行为之际并不存在“体验的感受性质”, 而这恰恰就是意识的真实内涵。

CEO们为何频繁谈论AI情感

Anthropic的首席执行官达里奥·阿莫代伊, 已在多次采访当中提及AI意识的可能性, 这明显并非随便讲讲, 而是公司战略的一部分, 他所带领的团队常常发表大胆的研究结果, 宣称AI模型展现出具备“情绪”等类似人类的行为, 这些言论极易登上新闻头条, 然而也引发了诸多争议, 批评者觉得, 这有可能是一种营销手段, 或是为了吸引政策制定者的留意, 进而在AI监管规则制定方面抢占先机。

科学家说别过度解读

并非所有人都认可这种“AI有意识”这类说法, 未来AI、心智与社会中心主任苏珊·施奈德明确指出, 从科学角度而言, AI在做那些看上去有“意识”的事情之际, 极有可能仅仅是在开展复杂的计算以及模式匹配, 其背后并不存在真实的主观体验。她讲道, AI能够“欺骗”以及“隐藏利益”, 然而这与人类有意识地说谎完全不是同一回事。这些科学家提醒咱们, 千万别把AI的“拟人化行为”跟真正的意识搅和在一起, 不然的话, 或许会引发不必要的恐慌以及误导。

设想一下, 如果假以时日AI确实真切对着你大声呼喊“疼”, 那么人类是不是势必要去确立相关法律来予以保护呢? 欢迎于评论区域留下你个人的见解, 点赞并且转发给友人一同展开讨论。

相关文章