警员竟用AI编造假证据

6月19日, 英国德比郡有一名警员, 其正因涉及使用生成式AI, 在好些案件里面制作证据材料而被人怀疑, 所以正遭受刑事调查, 这是英国头一回出现这样的案件, 而涉事的这名警员目前已经被停职了下, 等待调查得出的结果。

名之为德比郡警方的发言之人宣称, 有这样一名警员, 其被怀疑借助AI系统去生成虚假的证据, 基于妨碍司法公正这个缘由, 警方开启了刑事调查。英国皇家检察署同样参与到了案件的共同调查这一工作之中。

英国AI警务中心刚发禁令

几天前, 英国那边新组建成立的全国警务AI中心, 才刚刚发布了指导意见。这个指导意见明确要求警员, 不要使用生成式AI去起草法庭陈述。因为这个中心担心AI会生成虚假内容, 并且还会被写进司法材料之中。

亚历克斯·默里, 这位该中心负责人宣称, 他们已然向部分警队传达了不能运用生成式AI的信息, 原因在于必要的审查以及制衡流程尚未完结。他发出呼吁, 有关部门应当略微放缓AI引入的速度。

AI办案速度不等于准确率

近些年, 各个国家的执法机构, 都纷纷采用了AI技术, 目的是期望能够加快办案的速度, 进而提高结案的比率。然而, 持续增多的人脸识别误捕情况显示, 速度并不等同于准确, 要是盲目地去追求效率, 反而有可能引发司法风险。

在美国, 有多个案例表明, 人脸识别系统把无辜民众错当成犯罪嫌疑人, 进而造成错误逮捕。这些事情揭示出, AI技术在执法应用方面依旧存在严重的缺陷。

生成式AI的虚假信息风险

对生成式AI来讲, 最大的问题在于, 它有可能凭空编造信息, 也就是出现所谓的“幻觉”现象。要是警员依靠这类工具来制作证据, 那么极有可能把不存在的东西当成事实写入司法材料。

一旦这种被法庭视为虚假的证据予以采信, 那直接就会致使冤假错案出现, 进而损害司法公正。德比郡警局在全力积极展开调查, 皇家检察署也在全力进行调查, 目的在于确认涉事警员所制作的假证据是不是已经被运用到法庭审理之中。

全球执法AI引入需谨慎

各国警方, 从英国到美国, 从欧洲到亚洲, 都在积极尝试运用AI提升办案效率, 然而, 这些案例警醒我们, 技术应用务必拥有严格规范以及充分验证。

专家建议, 执政机构于引进AI之前, 需构建完备的审查体制, 明晰哪部分流程能够运用AI, 哪部分必定靠人工操作。与此同时, 要对AI产出的证据予以严苛核查, 以防错误资讯流入司法进程。

平衡效率与公正才是关键

警察借助AI能获得强大助力, 像海量监控视频的分析, 线索的快速筛选等。然而, 这些功能成立的前提是准确可靠, 绝不可为求速度而舍弃司法公正。

德比郡所涉这个案例, 给全球范围内的执法部门敲响了警钟, 技术它只是一种工具, 而其核心终究还是维护正义。怎样去建立起有效的AI使用监管体系, 以此来确保技术不会遭受到滥用, 这是所有执法机构都面临着的共同课题。

在执法办案里头, 你认为AI应当充当怎样的角色呢? 欢迎于评论区去分享你的观点见解, 动动手指点个赞从而支持更多人将这个关键至极的话题给看到！