英国的医院, 广泛地引入了AI转录医患对话的技术, 然而错误频繁发生, 已经把“无脱髓鞘”记成了“脱髓鞘”这种严重疾病, 可是监管因为没有将其归类为医疗器械, 所以缺席了。

把健康人错记成重症患者

一起案例里, 有一名女性患者, 在就诊之后, 发现自己的病历, 被AI记录工具错误总结，显示患有“脱髓鞘”疾病, 而这点被认为, 有可能导致多处性硬化症等严重神经损伤。该患者自身亦是医疗专业人员, 当她对结果提出质疑后, 要求重新核对MRI检查, 如此医院才发现, 原始诊断应为“无脱髓鞘”, 进而进行了更正处理。她后来描述讲, 这一过程极为痛苦, 先是AI给出了错误的诊断结果, 事后却仅仅以“拼写错误”, 轻描淡写地一带而过。

时强调, 当此类错误未被及时发觉并录入患者档案之际, 患者权益机构披露这起事件, 可能会对后续治疗方案产生持续性影响, 这种由AI记录错误致使的误诊风险, 于病情复杂人群身上尤为险恶。

药物名称混淆带来用药隐患

换作另外一个案例来讲, AI进行转录的工具把全科医所开具的某一种药物错误地记成了名称相近似的药物, 最终呢, 是患者本人在核对处方之际发现了这个错误, 然而医生却并没有察觉到。这所代表的意思是, 假设患者没有主动去进行比对, 那么错误的用药记录将会被长久地保留在医疗系统当中。

另外有案例表明, 由AI生成的总结信, 遗漏了重要内容, 即专科医生要求患者向全科医生申请续开偏头痛处方。如此关键信息的缺失, 有可能致使患者没办法顺利拿到所需药物, 进而延误病情, 或者构成不必要的疼痛困扰。

监管空白让人担忧

英国药品和保健产品监管机构MHRA作出决定, 不把这类AI转录工具归为医疗器械, 这就意味着, 英格兰不会构建覆盖全境的统一监管机制, 用以确保这些工具的安全性与有效性。在英国, 医生实际所使用的此类工具数量已达27种, 种类繁杂却缺少规范。

有多起反馈被患者权益机构接到了, 这些反馈都是患者自己察觉到错误, 而专业人员却没察觉到。这样一种被动纠错的模式, 明显没办法满足医疗记录准确性的基本要求, 特别是在涉及重大疾病诊断以及用药指导的时候。

AI幻觉困扰临床实践

英国伦敦的全科医生Shier Ziser, 曾碰到过一例堪称典型的AI幻觉方面的问题, 用于记录的AI工具, 把她让患者持续服用某一种药物的指示给记录了下来, 然而实际上, 她既未曾开具过那种药物, 也未曾在问诊期间对其展开讨论。这般情形, 不但会造成医疗资源的浪费, 还极有可能对后续接诊的医生产生误导, 致使其做出错误的判断。

乌普萨拉大学的博士承认, AI的确会出现错误, 并且这错误已然发生。他针对1003名英国全科医生展开调查, 发现在多名患者同时在场状况下, 或者病史繁杂之时, 亦或是患者母语并非英语的情形下, AI转录工具的出错概率更高。

效率与准确性的矛盾

虽说AI转录工具被宣称能够节省医生记录时间, 然而Shier Ziser医生表明, 医生依旧得逐一条目去核对全部记录, 事实上并没有节省下多少时间。英国全科医生的单次问诊时长本来就处在全球较短的水准, 要是在记录这个环节还得耗费大量精力去纠错, 那么整体效率反倒会降低。

更让人忧心的是, 有超过一半接受访问的医生觉得, AI生成的记录比自己亲自动手去记录更为准确。这一调查得出的结果跟实际情形有着显著的偏差, 或许是因医生对于技术的主观信任超过了客观核查所需。

患者该如何保护自己

面对这类存在错误风险的AI转录工具, 患者应当主动去核对病历记录, 特别是诊断结果、用药清单以及后续医嘱等内容。要是发现和实际状况不一样, 就应及时向医疗机构提出做更正, 的要求, 防止错误信息被带往后续诊疗流程。

于就诊进程里, 患者能够要求医生再次讲述关键信息, 像诊断的结论以及用药的方案, 以此来保证记录精准无误。这般主动去参与虽说繁杂琐碎, 然而在当下监管处于缺失状况的时候, 是维护自身权益最为直接且有效的办法。

对于英国医院在行医过程里运用人工智能来转录医患之间的对话, 你持有怎样的看法? 你觉得这种相关技术是不是应当去接受更为严格的监管? 欢迎来到评论区去分享你个人的观点。