美国CISA用Anthropic模型审计政府软件代码,防范安全威胁
该模型正被用于对美国政府的软件代码进行全面审计,以防范潜在的安全威胁。目前,该模型通过扫描政府代码仓库,已经成功发现了大量可能被外国情报机构或网络犯罪分子利用的严重缺陷与漏洞。向国家安全机构私下推出了专门用于发现网络安全漏洞的“神话”模型,双方关系才得以迅速缓和。
不可否认, 人工智能正于悄然之间, 对美国政府的网络安全防线实施着改变之举。CISA在悄然之中, 启用了来初创公司的“神话”模型, 对所有政府代码展开扫视动作, 这一举措所产生的实际效果颇为显著, 成功挖掘出数量不少的、能够被人加以利用的大漏洞。
一开始的时候, 这个合作开展得并非一帆风顺。到了年初, 由于存在不让制造杀人机器的相关规定, 五角大楼还曾经将其列入黑名单。之后, 又推出了专门用于查找安全漏洞的版本, 经过国安局进行测试以后, 国安局人员称赞不已叫绝, 双方之间的关系这才逐渐变得热络起来。
版本由政府所出的仅仅是冰山一角, 先前推出的公众版称作“寓言”, 本是想要能够让大家都去使用, 然而处于白宫方面担心会出现事情为缘由, 立即下达命令去封杀海外访问, 如此一手致使全球用户陷入傻眼状态, 技术封锁瞬间得以落地。
还好谈判总归是会有结果的, 历经了一番你来我往的交锋, 各个方最终是寻找到了那个平衡点, 就在上周美国正式地松了口, 并撤销掉出口上的限制, 这所表示的是那些被阻挡在门外的国际用户, 再次看见了通向希望的大门。
当下各个国家都在将目光聚焦于这块蛋糕, 究竟是谁能够率先掌控AI攻防的技术高地, 进而在数字世界当中占据先机, CISA的此次试水行为, 实际上是在为全世界探寻道路, 探究这东西到底是否安全。
这种具备深度推理能力的情况着实是相当厉害的, 它并非单纯的那种扫雷模式, 而是如同侦探一般, 一层一层、逐步地去剥开那重重的茧丝, 对于外国情报机构而言, 想要展开破坏行动, 当下所面临的困难程度大幅增加, 毕竟机器不存在懂得疲倦的这种状况, 并且也不会被收买妥协, 这对于防御的一方来讲乃是极为重大的利好之处。
然技术所具之双刃剑效应仍旧存在, 相同之算法, 具备既能寻觅漏洞, 又能够制造漏洞之特性, 怎样确保不遭受反向利用, 此乃一大难题, 就目前情形而言, 美国选取在可控范畴之内予以开放, 算得上是一步较为稳妥之棋。
一般人或许会认为这事距离甚远, 实则紧密相联。你所用的银行, 你所前往的医院, 你所依赖的交通系统, 背后无一不是代码。一旦此等代码遭致攻破, 那后果简直难以预料。AI审计恰似给城市安置了全天不歇的监控, 能让人心里多些安稳。
然而, 隐私问题紧接着就出现了。大规模地扫描代码, 是否会对正常功能造成误判? 数据泄露的风险该如何进行把控? 这些通通都是后续一定要解决的棘手问题。技术发展得太过迅速, 法律和安全规范需要赶快跟上步伐, 务必要避免留下隐患。
你认为, AI全方位接手代码审计, 究竟是有益之事, 还是有害之事呢? 欢迎留下话语展开讨论, 点选赞同分享以便让更多人得以看见。