让人意外的是奥特曼的坦白, 在最新那次长谈里, 他承认自己曾对短视频软件“上瘾”, 他甚至卸载了软件还关闭了所有通知, 这才勉强夺回生活的主动权, 这一细节揭示出哪怕是科技巨头, 在面对AI推荐算法之际, 理智以及意志力也可能会不堪一击。

奇点真的来了？

在Ti Morse访谈里, 奥特曼直接表明, 当下我们正处在奇点当中, 该论断和马斯克近期所做的表态恰好相符。网友观察到的现象也对这一观点予以了支持, 即: AI于数学、统计学等领域取得的突破十分惊人。比如说, GPT – 5.6耗费90分钟就破解了耗费20年未解决的统计学悬案, 仅仅用31步就独立攻克了图论猜想。这些进展显示出, AI的生产力正在明显提高, 超智能的来临好像已经是必然趋势了。

AI的自我改进能力

奥特曼发出警告, 声称一旦AI拥有自我设计、训练, 以及递归改进下一代模型的能力, 那么人类对于发展节奏的最终主宰权将会恒久丧失。抗议者内心真正惧怕的乃是, 一旦开启, 便再也无法按下暂停键。虽说奥特曼笃定未来会涌现众多优质的工作机遇, 然而这一忧虑引发了广泛的探讨。安全对齐依旧被认作主要问题, 可是却没有同步公布具体进展、红线或者国际协调机制, 这使得人们对AI的未来满怀疑虑。

资本的热情与风险

此一方向并不缺资金, 恰恰相反, 它实则为当下资本最为乐意投入重资的赛道当中的一个。自初创团队直至几家头部AI实验室, 近乎所有人都朝着这条路去投入资金、争抢人才、抢夺算力, 缘由大致相同: 哪一方率先将「AI自我改进」这件事情运作成功, 哪一方便掌控了下一轮竞赛的加速器。然而, 这般疯狂的投资热潮的背后, 隐藏着极大的风险。倘若AI持续取得进步, 当认知自身变得能够扩展时, 会出现什么情况呢? 那将会是一个思维不再归为稀缺资源的世界, 可是也有可能带来无法预先知晓的后果。

人类的理智挑战

奥特曼有过的那种亲身经历, 对我们起到了提醒作用, 哪怕是身处科技前沿领域, 人类所具备的理智连同意志力, 在AI的推荐算法面前, 都极有可能遭遇崩塌而溃不成军。就此说来, 当AI开始着手去替人类解答那些复杂问题, 并且实现人类的各种各样物欲的时候, 人类果真能够于奇点临近边缘的状况下保持理智吗? 面对那个已然能够脱离人类, 进行自我构建, 还能自我繁衍的硅基物种, 我们是不是会产生迷茫之感以及无助之情呢?

未来的不确定性

研发Sora期间, 奥特曼没辙只能自身去运用短视频产品, 最终居然染上了网瘾。这可不单单是个人经历的一种呈现, 还是整个社会所遭遇的一个普遍问题。伴随AI持续地进步, 到底要怎样去应对这些挑战? 要怎样确保AI的发展自始至终契合人类的利益以及价值观? 这可是一个得让全社会一块儿去思考并且回答的问题。

怎样看待AI迅速的发展以及其对于人类社会潜在的影响呢? 在奇点到来之前, 我们能够保持理智并且使其处于控制范围之中吗? 欢迎在评论区域分享你的看法。