毕马威AI报告造假事件引发行业地震

去年10月, 全球四大会计师事务所之一的毕马威出有一份关于智能体AI的报告。该报告在6月12日被英国《金融时报》爆料其有大量为虚假内容。这份曾宣称可助力企业借AI满足客户需求的报告, 最终却沦为AI自身所闹出的最大笑话。经调查可知, 报告里的45条引文之中, 仅有5条能准确对应真实来源, 其余的不是改写了标题, 就是凭空进行了捏造, 或者模糊到了无法验证的地步。

智能体AI案例全是虚构或夸大

报告将诸多企业的AI应用案例予以列举, 然而其结果却被逐一打脸, 举例来说, 毕马威宣称阿联酋航空存在一款名为Sara的移动聊天机器人, 它能够与乘客展开聊天, 甚至还能对航班进行更改, 但是实际展开调查后发现, Sara仅仅是在2023年推出的普通移动助手, 根本并非AI聊天机器人, 同时也不存在修改预订的功能, 此类张冠李戴的案例, 致使读者对毕马威团队究竟有没有认真进行核实产生怀疑。

瑞银和瑞士联邦铁路被无辜牵连

有一个离谱案例, 涉及瑞银集团, 毕马威表示瑞银在投资咨询、风险管理以及合规监控里全面整合了AI智能体, 然而瑞银直接回应 “与事实不符”, 另外瑞士联邦铁路SBB, 毕马威描绘其拥有依据乘客偏好和碳排放来优化行程的AI助手, 且SBB发言人仅说了三个字 “不准确”, 这些企业莫名成了虚假报告的配角 , 其报告内容与事实严重不符, 是完全错误的表述了。并且, 这些企业被无端牵扯进虚假报告中, 实在有些莫名其妙罢了。

AI工具过度迎合指令是罪魁祸首

调查机构经分析指出, 这些问题的根源在于毕马威运用了 AI 研究工具, 当该工具被要求找寻现实世界里的智能体 AI 案例时, 为满足指令, 它硬凑出不可靠结果, AI 擅长编造看似合理的信息, 特别是在缺乏真实数据时, 会产生所谓的“幻觉”, 显然毕马威团队未对 AI 输出进行任何人工核查, 直接拿来便用。

信息污染风险引发行业担忧

AI内容检测工具开发商的CEO , 名叫爱德华·田 , 他发出了警告 , 倘若四大会计师事务所 , 发布了那份充满错误的报告 , 这将会 “ 污染信息源 ” ，并且还会引发连锁反应 , 出现 “ 二手 AI幻觉 ”。简单来讲 , 其他人有可能会引用这份错误的报告 , 进而导致虚假信息 , 能够像病毒一般进行扩散。毕马威身为行业标杆 , 原本应该严格进行把关 , 然而却反倒成了误导的源头 , 这可是对整个咨询行业的信誉 , 都造成了沉重的打击。

毕马威认怂撤报告但为时已晚

毕马威发言人, 在面对舆论压力情形下, 回应称公司严肃对待内容准确性, 当下已撤下这份报告, 且开始审查报告发布之前以及之后的情况。然而损害已然造成, 那些遭受误导的企业客户, 那些有被错误引用情况的公司, 还有整个行业所拥有的对AI专业报告的信任, 均需时间来进行修复。这场闹剧也给所有依赖AI写作的企业敲响了警钟。

当企业运用AI工具去生成专业报告之际, 究竟该由谁来为最终出现的错误承担责任——是AI工具自身, 还是运用AI的那个人? 欢迎于评论区去分享你个人的看法, 进行点赞转发以使更多人能够看到此次的AI信任危机。