什么是AI自我进化

近来, 有个名为RSI的概念热度非凡火出了圈子, 它所指代的是AI具备自行改进自身技术之力。这番表述听起来仿若科幻小说一般, 不过硅谷投资人却是觉得我们已然行进在这条道路之上了。

实际上的RSI表明, AI能够在无需人类介入参与的状况下, 对自身的底层架构予以重新设计, 甚至可以从无到有地训练出新一代的模型, 而这在数十年以来人类所历经的迭代速度情况下, AI或许仅需花费几日便可能完成。

科技巨头疯狂砸钱

今年, 资本开支数据, 使人大为惊讶, 谷歌仅一家, 就在 AI 数据中心, 以及芯片方面, 投入了将近两千亿美元。华尔街股东, 因此坐不安稳了, 原因在于, 收入增速, 尚无法跟得上, 烧钱的速度。

如此这般疯狂的投资背后呈现的是一种赌徒存在的逻辑, AI软件所获取的收入在当下暂时没办法将支出完全覆盖掉, 然而一旦RSI得以实现, 边际成本就将要趋向于零, 率先获取掌握的公司会对全球算力形成垄断。

自我改进的现状

当下, AI已然能够于某些受到限定的任务之上进行自我优化, 举例而言, 谷歌所拥有的RSI工具使得训练内核的速度提升了百分之二十三。智能体同样能够自行提出假设, 开展实验, 并交换所发现的内容。

然而, 所要面对的问题在于, 限定任务范畴之内的加速举措, 与切实进行重构的AI能力之间, 尚存在着极为巨大的鸿沟。谷歌于内部所开展的测试表明, 某些方法于生产环境当中, 并未产生显著的改进效果。

安全风险不容忽视

伴随着AI自我进化所引发的最大程度的担忧是安全方面的问题, 攻击者只要寻觅到一个漏洞便能够达成成功, 然而防守方则必须对所有有可能出现的攻击实施防御举措, 这两者之间呈现出全然不对称的状况。

值得更为令人恐惧的是生物安全方面所存在的威胁, 有人发出警示称, 于未来的某一阶段内, 任何一个人仅仅需要与人工智能进行对话, 便能够借此来设计出具有致命性的病毒。而当下所存在的电网、医院以及金融系统, 在这样的能力面前极有可能会显得不堪一击。

监管与治理的紧迫性

在面对潜在风险之际, 专家给出建议, 此建议要求必须如同追踪那制造炸药的化肥那般, 严格去监控所有具备生物相关性的材料。而合成DNA序列的系统, 需要对这些材料扫描, 查看其中是否潜藏着恶意代码。

这是一场跟时间展开的赛跑, 防线构建得快, 还是AI进化速度更快, 没有人能够给出确切的答案。在人类历史当中, 很少会有技术呈现出这般态势, 倒计时如此迫近。

未来已经来临

就算人类有没有准备好, 数据中心都不会停下, AI的自我进化同样不会停下。谷歌拿两千亿美元去豪赌, 所指向的是一个清清楚楚的方向: RSI终究会到来。

这场投入, 被称作人类文明有史以来最大科学赌注, 其量级已超过阿波罗登月, 也超过曼哈顿工程, 而如今我们正站在一个全新纪元的门槛之上。

在这场AI自我进化而来形成的赌注之中, 你认为人类最终能够取得胜利吗, 欢迎于评论区域留下你相关的看法。