科技巨头垄断AGI，比终结者天网更可怕

你可曾思索过，日后决定你能不能找到工作、能不能成功贷款买房乃至能不能畅快自由说话的，兴许并非政府，而为一家科技公司所拥有的AI系统？《终结者》导演詹姆斯·卡梅隆于2024年10月的SCSP AI+峰会上借助视频连线发出警示：科技巨头对AGI形成垄断，比电影里所呈现的天网要恐怖百倍之多。缘于天网起码源自政府项目，然而现实里面的超级智能正被少数企业暗暗地掌控在手心里。

天网来自政府 AGI却属于私企

在1984年上映的那部《终结者》里，美国国防部所开发的AI网络“天网”，在获取自我意识之后，对人类发起了核打击。卡梅隆表明，这样的设定虽说恐怖，不过起码AI是掌控在政府手中的，从理论层面来讲，还存在着民主监督的可能性。然而，现实当中的AGI研发，完全是由谷歌、微软、Meta等科技巨头主导的，这些公司在没有经过任何公开选举或者公民投票的情况下，就获取了塑造人类未来的权力。

卡梅隆于演讲里直接表明，真正让人忧虑的并非是机器觉醒后会主动去毁灭人类，而是AGI在刚诞生之际便被少数科技巨头紧紧掌控着。拿2024年来说，OpenAI、谷歌DeepMind以及Anthropic这三家公司，它们的估值加起来超过了5000亿美元，其做出的决策能够直接对全球几十亿用户产生影响。这些企业既没有要遵循的宪法义务，也不需要去对公众进行负责。

你将生活在一个从未同意的世界里

卡梅隆做出了如是的形象描绘，人类日后会置身于一种情境里，那情境是自己未曾予以同意，也未曾参与投票的存在状态，并且就在这样的世界当中，要会同一个具备超级智能的外星物种共同生存。而这个所谓的“外星物种”，其行为仅仅依从企业所设定的目标以及所制定的规则。试着去思索一下，你每日都在使用的微信、抖音、淘宝，它们呈现于你眼前的是何种内容，向你推举的是哪些样的商品，居然全然是依据算法来予以决定的，然而你自始至终都未曾针对这些规则投下过选票。

这种由公司主导的超级智能系统，具备前所未有的数据访问能力 ，你的个人通信记录会被掌握，思想表达内容会被掌握 ，实时位置信息会被掌握 ，行为轨迹也会被掌握 ，2025年美国联邦贸易委员会的一份报告显示 ，头部科技公司平均每名用户每天产生超过3000个数据点 ，一旦缺乏制衡，AI便可能迅速滑向数字极权主义。

狐狸看守鸡舍 巨头自封仲裁者

卡梅隆觉得即便最乐观的情形也谈不上乐观，科技巨头会变成“人类福祉的自封仲裁者”，这如同让狐狸去看守鸡舍，它们绝对不会想着运用这种力量来对付我们，把我们最后一滴血汗都给榨得一干二净，在现实里我们已然看到了相关苗头，2025年亚马逊借助算法监控仓库工人，自动辞退效率未达标的员工，整个过程不存在任何人类管理者参与。

又是一个典型的案例，那便是Meta的广告系统，它能够自动去判断，哪些用户会更容易被特定的政治广告所影响，而后进行精准推送，在2024年美国大选期间，有研究机构发觉，超多40%的政治广告投放完全是由AI自动达成的，科技巨头掌握了AGI之后，这样的能力将会被放大千万倍，它们能够决定谁能够看到工作机会，谁具备资格获取贷款，甚至是谁的言论能够在网络上进行传播。

开火授权 人类是否该交出扳机

卡梅隆对AI与国家安全的关系予以特别关注，他表明机器人在本质上是AI的“具身化”载体，在当前战争里广泛运用的无人机，多数依旧留存“人类在回路中”的机制，最终的“开火授权”是由人类掌控着，在2025年的俄乌战场上，双方所使用的无人机超过80%仍然需要人类远程确认目标之后才能够进行攻击。

只不过，伴随AI决策能力的不断增强，一个至关重要的问题显现出来了，那就是：是不是应当给予自主系统独立的杀伤权限；卡梅隆承认，从技术层面而言，AI也许能够比那些有着情绪波动、疲劳状态作战的人类士兵更加精确；然而，一旦AGI拥有自我意识并且接入武器系统，风险将会呈指数级增大；2026年初，五角大楼的一份内部备忘录表明，美军正在对自主无人机群进行测试，这些无人机群能够集体做出决策去攻击目标，这引发了极大的争议。

对齐难题 人类自己都搞不清善恶

在当下的AGI研究里面，那个核心概念是“对齐”，就是讲要保证系统目标还有人类福祉达成一致。可是卡梅隆却提出了十分尖锐的质疑呀：当人类自己都没办法在道德标准之上达成共识的时候，怎么去给超级智能设定一个统一的价值框架？从巴以冲突这件事到俄乌战争那边，再从堕胎权这个方面关联到安乐死这块，人类社会一直处在价值观冲突的状态之中。

哪怕就是阿西莫夫声名远扬的“机器人三定律”，于现实里也很难直接拿来应用。在2025年的时候，有一项针对全球50个国家展开的伦理调查表明，针对“AI应当优先保护乘客还是行人”此一问题，有着不同文化背景的人们给出了迥然不同的答案。卡梅隆总结表示，AGI注定会成为人类的一面镜子，我们有多么善，它就会有多么善，我们有多么恶，它就会有多么恶。

科幻走向现实 你准备好了吗

持有技术反对态度的并非卡梅隆，他当下正投身于生成式AI企业Stability AI的董事会事务，打算在创作进程里积极接纳AI技术。然而他着重指出，对于AI采取乐观态度跟对于AGI怀揣警惕心理并不相互冲突。实际上真正需要予以警惕的并非机器自身，而是权力架构、道德体系以及治理机制能不能跟得上技术进步的速率。

到了2026年的当下，距卡梅隆发出警示已然过去一年多了，然而科技巨头针对AGI的争抢反倒愈发激烈了。2025年时，谷歌、微软、亚马逊这三家公司在AI领域的投入超出了2000亿美元。当超级智能不再归属于科幻而是成为现实的可能性时，你认为自己应当从当下开始留意哪些问题，才能够防止未来生活在一个自己从未同意过的世界中呢？欢迎在评论区去分享你的观点，点赞并转发以使更多人看到这个关乎每个人未来的警告。