美国防部曾要求OpenAI提供特殊版AI，减少军事指令驳回
向美军提供一款其人工智能技术的特殊版本，该版本的设计目标是尽可能减少军事指令的驳回次数。并提出相关问题后，这名五角大楼律师又表示应忽略此前的确认，并称美国国防部需要更多时间调查此事。申请和诉讼将其提供出来，更不清楚为什么国防部会突然改变说法。
五角大楼提出特殊需求
美国国防部向OpenAI提了一个明确要求, 要定制一款对军事指令几乎不会拒绝的人工智能工具, 这份出现在合同更新文件里的需求, 将这种模型叫做“任务模型”, 专门针对国家安全场景设计。
五角大楼的目标很明确, 就是要让AI在处理敏感的与军事相关的请求时, 尽可能少地触发这种由内置机制构成的安全护栏。外界之所以会产生对AI在军事领域应用的广泛担忧, 大抵正是这一需求的诱发所致。
FOIA文件曝光争议
《The》依据《信息自由法》诉讼拿得这份文件, 揭开五角大楼与OpenAI之间协议的详情。这份文件透出, 两方曾在二月六日就扩展版的合约达成共识, 然而文件内嵌的“最低拒绝率”言事成了争辩的核心。
OpenAI, 和五角大楼随后, 都否认了这一条款, 的存在, 称相关文件, 只是草案, 而非最终版本。然而, 公布出来的文件, 并没有被标注为“草案”, 这进一步, 加深了外界的质疑。
官方说法反复变化
五角大楼司法部律师先确认该文件, 是已签署的合同版本, 数小时后, 又要忽视此前的确认, 他暗示这, 或许是一份草案, 表示不确定, 为何该文件, 会出现在FOIA申请中, 随后又改口, 称这不是最终版本, 拒绝提供, 具体的时间承诺。
国防部发言人明确表示, “最低拒绝率”的这一表述, 不存在于任何现行合同当中。这一系列反复变化的说法, 让公众对于透明度, 产生了更大疑问, 也让这件事, 变得更加扑朔迷离。
AI安全护栏的边界
不少主流AI平台里头都预制了安全防护栏类的机制, 会依托安全维度拒绝指定些请求, 譬如当遭到要求协助安排确定无人机打击目标的优先级这类需求时, AI就会毅然决然拒绝作答这类内容, 此类防护机制的设计初衷, 便是为了杜绝本应该应用于正途的技术出现被使用者不当运用于带有危险倾向目的情形里去。
然而, 专门为军方定制的AI版本倘若大幅降低拒绝率, 这些安全护栏的效果将大打折扣, 专家担忧这或将意味着私营企业可能实际上掌控着本应由国家承担的战争责任的决策。
科技公司划定红线
OpenAI声称在协议谈判里成功设了两条红线: 明令不得利用它提供的技术从事自主杀戮, 也明令不得针对美国人做间谍活动。公司代表还表达称, 这些限定是它不变的核心立场。
然而从合同的实际措辞看来, 最终协议似乎仍然给予宽泛的自由度似乎依然赋予了政府。合同保留了相关被涂黑包括标题在内的全部具体内容, 从文本中无法看出具体被限制了哪些用途。
军警争端持续发酵
今年早些时候, 五角大楼曾试图将AI部署到军方机密网络, 与OpenAI爆发公开争执, 争端的核心在于OpenAI是不是应当以及如何限制其技术在军事领域的使用范围。
作为回应, 特朗普政府针对OpenAI列为”供应链风险”进行处置, 同时推动禁止政府部门使用其技术, 随即OpenAI签下允许服务部署到机密网络的协议, 事态走向充满着戏剧性反转性转变。
你觉着AI在战场上该有好多自主权不? 技术公司是否有权划定啥请求能被谢绝? 欢迎在评论区同享你的想法噻?
