AI在医疗领域潜力巨大，但应用需“极其谨慎”

拉斯维加斯——伊利诺伊大学医院与健康科学系统在测试一款由人工智能驱动的消息回复草拟工具时，一名患者拼错了药物名称，首席健康信息官卡尔·科琴多弗在上周举行的HLTH会议的小组讨论中回忆道。

由于护士忘记复核回复内容，这一拼写错误导致AI给出了患者并未使用的药物的副作用信息。

他表示，最终这并非大问题——只需致电患者或再发一条消息予以更正即可。但此事可能对该工具产生严重影响。

“这几乎让试点项目夭折……而且就发生在第一天。”他说。

在医疗行业艰难探索如何安全部署AI之际，投资者与医疗系统首先看到了采用自动化行政与后台工作工具的潜力。专家在HLTH会议上表示，这类工具或可缓解医务人员职业倦怠，且对患者护理构成的风险较低。

但采用该技术的压力确实存在。支持者认为，AI有助于解决医疗行业面临的重大人力挑战：根据咨询公司美世的报告，随着整体人口老龄化及护理需求增加，到2028年美国将面临超过10万名关键医疗工作者短缺。

专家表示，尽管AI可能带来变革，但行业在部署新兴工具时必须谨慎行事。由于政策制定者与专家对准确性、偏见及安全性提出担忧，相关风险不容忽视。

健康信息应用Roon的联合创始人兼首席医疗官罗汉·拉马克里希纳在HLTH会议的小组讨论中表示，在医疗领域部署AI十分复杂，行业应从此前部署的一些预测工具中吸取教训。

“我认为我们学到的一点是，在医疗环境中应用AI解决方案必须极其谨慎。”他说。

AI如何应对“供需之间的简单错配”

凯撒医疗集团AI与新兴技术副总裁丹尼尔·杨在小组讨论中表示，AI或有助于缓解医疗行业最大的问题之一：老年患者数量增长且慢性病更复杂，而能提供帮助的医生却越来越少。

他补充说，随着美国老年人需要更多护理，美国最大一代人——千禧一代则希望获得更即时的消费体验。但在供给受限的情况下，这一目标难以实现。培养一名新医生需要数年时间，而医生减少意味着职业倦怠加剧、护理延误以及成本上升。

“这甚至与AI无关，而是关乎我认为医疗行业普遍存在的问题。”杨说，“我们看到的是供需之间的简单错配。”

AI可以增强临床医生的工作流程，可能帮助他们提供更好的护理。杨提到，永久医疗集团研究人员开发的一种算法每年可挽救500条生命，其方法是标记存在临床失代偿风险（即病情恶化）的患者。

“对我而言它更好，因为确实节省了时间。但归根结底，对患者更好，因为他们感到自己被倾听。这对我来说确实是一次变革性的体验。”

——克里斯托弗·威克森，萨凡纳血管研究所血管外科医生

该技术还可能通过减少临床医生在笔记记录等行政工作上花费的时间，来减轻职业倦怠并提高留任率。长期以来，提供者报告称他们在电子病历上花费大量时间，这往往损害了患者护理。

萨凡纳血管研究所血管外科医生克里斯托弗·威克森表示，随着行业转向电子健康记录，他曾一度接近离开医学领域。在倾听患者的同时收集信息是一大挑战，而当必须盯着笔记本电脑屏幕时，很容易错过非语言线索。

但他表示，环境文档记录——通常由AI工具记录临床医生与患者之间的对话并起草笔记——改变了游戏规则。

“对我而言它更好，因为确实节省了时间。”威克森在小组讨论中说，“但归根结底，对患者更好，因为他们感到自己被倾听。这对我来说确实是一次变革性的体验。”

投资者与医疗系统聚焦行政负担

鉴于提供者行政工作繁重，且对涉及临床决策的模型错误或偏见存在担忧，解决行政问题的产品成为AI应用的首要优先事项之一。

一些投资者也对自动化这些运营任务更感兴趣。

“.406 Ventures”合伙人帕亚尔·阿格拉瓦尔·迪瓦卡兰表示：“我们将继续专注于那些‘不起眼’的后台自动化，真正减轻劳动力负担，而与临床相关的AI则完全不涉及。”

根据硅谷银行本月早些时候发布的报告，行政AI今年也吸引了更多风险投资资金。2024年迄今，行政AI公司融资24亿美元，而临床AI为18亿美元，这很可能是因为监管与制度障碍较低，尤其是决策支持工具方面。

“我们看到的所有行动都集中在行政任务上，也包括预授权等低价值任务。”硅谷银行生命科学与医疗银行信贷解决方案主管梅根·谢费尔在接受采访时表示，“你可以将办公室人员转移到更高价值的项目上。”

谷歌研究杰出科学家兼健康AI主管格雷格·科拉多在小组讨论中表示，目前存在大量机会将大型语言模型用作起草工具，包括笔记或护士交接文档。

由于提供者必须在最终定稿前复核输出内容，监督机制已内嵌其中。他说，通过询问用户体验或检查他们需要修改的次数来评估质量也更容易。

但克利夫兰诊所创投合伙人托德·施瓦辛格在接受采访时表示，在评估运营或行政工具时仍需有条不紊，并使用健康系统的本地患者数据进行测试。克利夫兰诊所的治理结构还关注工具中使用的数据、信息保护方式以及产品是否安全且对患者护理产生积极影响等问题。

行政或运营产品——如环境记录员或收入周期管理工具——是更安全的起点。

“你不会冒做出临床决策的风险，对吧？”他说，“那种信任程度还不存在。我认为这需要时间。”

为AI部署做好准备

尽管AI在缓解提供者职业倦怠方面可能展现前景，但医疗系统在让提供者参与、设立试点、建立治理政策并推广产品方面仍面临挑战。

在HLTH会议上分享的一个案例中，圣路易斯提供者BJC决定使用供应商数据来识别那些在文档签署上花费多日或撰写冗长笔记的临床医生，以进行环境笔记记录试点。BJC医疗集团门诊副首席临床信息官兼BJC医疗集团首席医疗信息官米歇尔·托马斯说。

“我想20人中只有1人回应。所以我们立刻意识到，最需要它的人对此并不感兴趣。”她在小组讨论中说。

她表示，他们决定改变方向，邀请任何感兴趣的人加入试点——结果迅速得到了响应。

尽管如此，仔细考虑哪些提供者应参与测试仍很重要，因为一些医生并不理解参与试点的要求，例如需要花时间发送反馈或应对新产品带来的挫败感。

医疗系统还应考虑采用AI工具时希望获得哪些成果。托马斯说，许多医生并未看到明显的时间节省，因为他们花大量时间编辑笔记——并非纠错——而是为了使笔记符合自己的写作风格。相比之下，高级实践提供者在审核后更快地签署了环境笔记。

“你真的必须决定你的投资回报率是什么。你追求的是财务节省？时间节省？还是需要硬性数据来证明这项技术的合理性？或者更软性一些？你追求的是患者满意度？”她说。

网络安全——这已是医疗行业普遍面临的挑战——也是AI部署的关键。

美国卫生与公众服务部民权办公室主任梅兰妮·丰特斯·雷纳在接受采访时表示，各组织应思考与任何使用受保护健康信息的系统相同的那些问题。

如果与开发者建立合作关系，是否已签订业务伙伴协议？是否考虑了存储在云中数据的删除政策？是否考虑过谁需要访问这些数据？

“我认为这里确实需要取得平衡，但这要求我们所有人都负责任地思考如何使用这些信息，以及它可能如何损害我们的系统、我们的患者，以及我们如何采取主动措施加以保护。”她说。