AI无法回答的问题

人工智能（artificial intelligence, AI）在医疗领域的新时代已经到来。AI工具正在科研与临床实践中得到持续开发与应用。在精神卫生领域，生成式AI已被用于辅助临床工作中的行政事务，并以多种方式参与到科学研究过程中。更具争议的是，个人开始向一些AI智能体寻求帮助或仅仅寻求其陪伴。当前的关键问题在于如何确保其安全性、公平性，落实临床问责制，以及如何负责任地使用AI工具来改善精神健康。

AI研究的迅猛发展引发了人们对其改善精神卫生服务潜力的兴趣。然而，一些令人担忧的问题也逐渐浮现，例如AI智能体对自杀意念的不当回应，以及AI相关妄想（AI-associated delusions） [1] 的存在。这些问题并非源于技术错误，而是反映了在人工智能开发过程中未充分考虑用户福祉这一根本性缺陷。精神卫生专业人士和有精神疾病亲身经历的人群很少，甚至完全没有参与这些技术的开发、应用或测试。AI的快速演进主要由商业利益驱动，已经超越了监管框架的覆盖范围，导致评估和监督标准参差不齐，安全和伦理保障极为薄弱。

针对异质性方法和报告的指导规范尚不成熟，这导致研究工作的碎片化。在本期《柳叶刀-精神病学》（The Lancet Psychiatry）中，Jake Linardon及其同事提出了一份协同路线图 [2] ，旨在指导AI在精神卫生领域的负责任评估与应用。在这篇论文中，作者根据AI的主要使用场景将其分为三大类：面向临床医生的应用、面向患者的应用，以及面向系统或面向研究的应用。他们提出了四个总体优先事项：加强安全和证据标准，将伦理、公平性及患者诉求置于核心地位，重新定义临床医生的角色，以及促进可持续的应用实施。重要的是，该路线图认识到实施不仅仅是一项技术挑战，还需要不同利益相关方开展协同行动。AI在精神卫生领域的未来发展，应当更多地立足于能否在扎实的证据和公共问责制的基础上，安全且公平地改善医疗服务，而非单纯取决于技术本身的性能水平。

尽管部分AI应用仍处于实验阶段，但也有部分已广泛融入常规工作流程，且往往在正式的指南或监管机制出台之前已投入使用。例如，名为“AI 抄写员”的环境式人工智能文档记录工具。Alexander Roth和Nolan Ayers探讨了为何在精神病学领域实施这些看似属于行政管理范畴的工具，其实际复杂程度远超表面所见 [3] 。在个人观点文章（Personal View）中，作者指出，看似单一的转录工作流程，实际上至少结合了三种功能上不同的操作，即：根据患者与临床医生诊疗过程的录音生成叙事文本，通过观察结果推断得出精神状态评估，以及进行临床推理。先进的转录和整合技术可以提升文档记录的效率和完整性。然而，当某些措辞上的细微差异承载着治疗、沟通、法律和认知层面的意义时，AI抄写员无法判断应当如何保留这些差异。未来的多模态AI系统或许可以超越仅基于音频或文本进行判断的局限，通过捕捉观察性信息来克服当前的数据限制。但这可能进一步模糊机器推断与医疗判断之间的界限。如果临床医生在自己判断之前就获取了AI抄写员整理过的内容，那么发生的认知外包便很容易被忽视。这些挑战凸显了针对不同AI功能需要不同临床监督、知情同意和监管的必要性。

这两篇论文共同揭示了创新与实施之间、技术能力与负责任使用之间存在的张力。相应的，证据的产生和报告方式也必须随之演进。现有的报告指南正在纳入针对AI特定的扩展内容，例如用于临床试验的CONSORT-AI指南，这是迈向标准化的第一步。

需要什么样的证据？如何进行安全性、公平性和问责制评估？这些是AI无法回答的问题。患者、临床医生、研究人员、开发者和政策制定者等多元利益相关方必须共同努力来回答这些问题。企业尤其需要被问责，必须将精神卫生保障措施嵌入其产品之中。创新固然至关重要，如若缺乏扎实的证据、缺乏安全性、公平性和公共问责制保障的创新，是无法有效改善精神健康的。END

[1] https://www.thelancet.com/journals/lanpsy/article/PIIS2215-0366(25)00396-7/fulltext

[2] https://www.thelancet.com/journals/lanpsy/article/PIIS2215-0366(26)00127-6/fulltext

[3] https://www.thelancet.com/journals/lanpsy/article/PIIS2215-0366(26)00201-4/fulltext

题图 Copyright © GettyImages/ Namthip Muanthongthae

中文翻译仅供参考，所有内容以英文原文为准。

DOI: 10.1016/S2215-0366(26)00242-7

不错过最新前沿医学研究