67%错误率AI推临床！梅奥被指忽视安全，美患者数据隐私存隐患

梅奥诊所一名前研究运营主管起诉这家医院系统，称这家总部位于罗切斯特的医疗机构为了在快速发展的人工智能研究领域保持竞争力，

鲁莽地压缩程序、降低标准

。

梅奥前研究运营主管特蕾西·塔米科·埃托称，她在对相关问题提出担忧后，于去年遭到违规解雇。她表示，宽松的安全标准可能导致人工智能工具作出错误的医疗判断，或无法保护其决策所依据的病历隐私。

梅奥诊所周三在一份书面声明中表示，不对正在进行的诉讼发表评论，但称其“致力于以负责任的方式开发和部署人工智能”，并在整个流程中纳入隐私、安全、透明度和合规要求。

这起诉讼正值人工智能在医疗领域迅速扩张之际。人工智能正帮助医生处理从记录笔记到对检测结果和影像扫描进行诊断评估等多项工作，但与此同时，外界也越来越担心人工智能工具的准确性以及患者数据的隐私保护。

这起诉讼于周一提交至明尼苏达州联邦地区法院。起诉书指控，埃托的上级操纵了医学研究的监督流程。通常，这类研究依赖独立的机构审查委员会设定研究得以安全、合乎伦理开展的条件。

由独立机构作出这些决定，本应是为了消除研究中的偏见。

但起诉书称

，梅奥管理层在一些情况下向机构审查委员会施压，要求其批准研究；将研究方案转交给审查标准不那么严格的机构审查委员会；或者干脆绕过机构审查委员会，自行批准研究。

代表埃托的劳动法律师阿图尔·戴维斯说：“机构审查委员会的程序对研究诚信至关重要，对患者隐私和患者安全也同样至关重要。如果这一程序没有按应有方式运作，那么最终很可能就是“输入失真，输出失真”。”

这家医疗系统一直将自己定位为开发人工智能技术和医疗决策辅助工具的全球领导者。上个月的一场会议上，梅奥研究人员发布了多项研究，内容包括人工智能工具是否能够预测患者认知能力下降、评估头颈部肿瘤严重程度，甚至预测行为障碍儿童何时会发脾气。

戴维斯说，埃托在2023年被梅奥聘用时，是一名“冉冉升起的新星”，负责监督与人工智能相关研究的伦理和诚信问题。但在她提出担忧后，上级剥夺了她的权限和领导职责。这些担忧包括梅奥诊所平台。该平台使用海量去标识化数据，试图开发更好的诊断工具，并帮助医生更快、更安全地为患者作出决策。埃托质疑，梅奥是否采取了适当措施，确保患者数据隐私得到保护。

起诉书称，工作压力导致埃托患上抑郁症，并需要请假休养。她返回工作岗位后，被要求在数周内在梅奥内部另找职位，否则就会被解雇。

起诉书还称，埃托在一款人工智能工具的开发中发挥了主要作用，但梅奥在专利申请中淡化了她的角色，这可能限制她从该工具商业化使用中获得的收益。

起诉书中的具体指控包括，梅奥研究人员试图掩盖或无视研究结果。相关结果显示，梅奥的数字助理工具“MAYA”错误率高达67%。

在另一件事中，埃托称，她反对在一台心脏手术中使用一种高风险的试验性医疗设备，因为该设备未经机构审查委员会适当审查。她说，她的上司无视她的反对意见，批准将这款由人工智能驱动的设备用于另一国家的一台手术。

这起案件使梅奥——明尼苏达州最大的雇主——再次面临与现任或前任研究人员公开对簿公堂的局面。今年早些时候，陪审团驳回了迈克尔·乔伊纳医生的主张。乔伊纳曾称，梅奥管理层试图压制他对政府应对病情的评论，属于越权行为。乔伊纳上个月申请重新审理此案。

作者：

杰里米·奥尔森