一家人工智能公司, 因持有保留AI系统安全护栏的坚持态度, 拒绝将其用于大规模国内监控以及完全自主武器, 结果被政府列为供应链风险对象, 该企业与美国五角大楼合作的项目也突然终止。这一事件, 在全美科技界引发强烈震动。同时, 这一事件, 在全美政界也引发强烈震动。而此事件, 还揭开了军事AI部署背后激烈的控制权之争。

合作破裂起因于安全底线

有一家不愿意公开名称表示的AI公司, 一直都拒绝取消系统安全方面的限制, 觉得军方有可能会把它的技术运用到国内监控或者自主杀人武器上面。在2025年秋季的时候谈判破裂了, 之后五角大楼马上终止了那份价值数亿美元的合同。

公司内部有相关人士透露, 他们始终坚持保留人类审核这一环节, 以此来防止AI在战场上自行做出开火动作。而这样的一种立场, 使得军方高层极为不满, 他们觉得这种过度的限制会让美军的技术优势被削弱。

五角大楼迅速寻找替代方案

合作失败过后, 五角大楼朝着谷歌、英伟达、微软、亚马逊等科技巨头转去签署新的合同。这些企业宣称愿意依照军方的需求予以配合, 然而外界却担心军事AI的部署会由于这样而缺失掉必要的安全约束。

凭借美国国防部 2025 年度相关报告来看据知的, 军事 AI 项目预算已然增加到了 120 亿美元。还有这样一番情形, 谷歌于 2024 年的时候对内部 AI 准则作出了修改, 放宽了涉及军事用途方面的限制, 然而员工们抗议的声浪却持续不断。

国会紧急推动立法管控

亚当·希夫这位加州参议员, 联合了好些民主党议员, 提出了《HALO法案》, 此法案明确规定, 自主武器系统在行动之际, 最终决定权得归人类指挥官所有。该法案于2026年3月, 在参议院军事委员会通过了初审。

法案规定要详细记录军事决策的过程, 还要详细记录目标选择的运作流程, 以此来方便后续进行事后审查。议员们着重特别地去强调, 在核武器部署的范畴之内以及大规模监控这件事情当中, 是绝对严禁滥用人工智能的, 一旦出现违反这种规定的情形, 那么违反者将会面临刑事处罚的后果。

强化人类控制权成为核心

就各项关乎HALO法案当中明定强制予以要求的所有那些涉及致命行动的情形而言, 人类的确认这点均为必要条件, 人工智能在此仅扮演辅助工具角色, 并非被视为决策者所处地位。对于每一项涉及攻击的指令而论, 都得经由指挥官以手动方式行使批准之责, 系统并不具备能够自动执行的相应功能。

曾被军方进行试点的“忠诚僚机”无人机项目, 也被下达了保留人类遥控开关的要求。五角大楼当中的高官予以承认, 完全自主的武器系统最少在2030年之前是不会去进行部署的, 不过相关研发工作将会持续推进。

技术缺陷引发致命风险担忧

有专家予以警告, 使用者极易产生“自动化偏见”, 会盲目地去相信AI的判断。在2024年的时候, 美军所进行的一次模拟演习当中, AI系统错误地把平民车辆识别成了敌方目标, 还好人类操作员及时给予了制止。

更让人担忧的是, AI决策过程呈现出具有隐蔽性的特点即类似封闭黑箱一般。哪怕存在人类进行监督的状态, 然而要是系统浮现出错误的分析状况, 那么指挥官就极有可能在依据不准确信息为基础的情况下做出会导致严重后果甚至危及生命的关键决定。纽约大学所开展的研究表明这么一个现实数据指向, 在复杂的战场环境里用来辅助军事行动的AI其所产生不正确判断的比率高达12%。

科技企业面临两难选择

一边身为巨额国防合同, 一边属于伦理底线, AI企业所处境地尴尬, 微软与亚马逊已然构建起内部审查委员会, 然而谷歌员工仍旧在对公司参与军事项目事项进行抗议。

行业分析师表明, 要是企业持续留存安全护栏, 那么有可能丧失军方订单；倘若放弃这种限制, 又会遭遇舆论以及员工压力。这场处于僵持状态的激烈较量, 将会对未来十年军事AI的发展走向作出决定。

到底是你觉得, AI公司应当鉴于国防合同而舍弃安全护栏, 还是秉持伦理底线去回绝军方所求呢? 欢迎于评论区之中分享你的看法, 点赞并转发以使更多人能够参与到讨论里来。