今年 6 月,美国食品药品监督管理局(FDA)向 Aidoc 授予了一项突破性设备认定,涉及一款利用生成式人工智能解读影像并自动生成报告的工具。该功能名为 First Read,旨在从胸部 X 光片中检测多种健康状况,并为放射科医生撰写供其审阅的报告。

这一突破性认定意味着产品可在 FDA 获得优先审评资格,其意义尤为特殊——目前 FDA 仍在制定针对采用生成式 AI 的医疗器械的监管框架,业界对这类技术的最佳实践和患者安全保障措施仍存在诸多悬而未决的问题。

MedTech Dive 与 Aidoc 首席执行官 Elad Walach 进行了对话,以深入了解 First Read 系统的工作原理,以及该公司在安全性与验证方面的具体做法。

本次访谈经过编辑,以精简篇幅并确保表述清晰。

MedTech Dive:First Read 是如何工作的?

Professional photo of Elad Walach
Aidoc CEO Elad Walach
Permission granted by Aidoc

Elad Walach: First Read 的独特之处在于,它虽然最终输出一份报告,但背后运行着一整套模型链。

首先是最初的检测模型。随后,系统会生成内容并将其整合为结构化报告。在检测层面,它能够识别超过 100 种疾病,并据此起草一份完整的报告。

这是我们首次实现端到端的 AI 诊断,因此这是一个重要的里程碑。

突破性设备认定使我们能够加快产品上市进程,同时确保我们仍然达到同样的安全和质量护栏标准。我们认为这一认定是必要的。尤其对于如此全面的设备而言,讨论安全性至关重要。

如今,任何人都可以将 X 光片上传至 ChatGPT 并获得一份报告,但要做到准确无误却非常复杂。在大多数病例中,AI 的表现必须几乎与人类医生相当,否则医生不会采用它,而会选择自行完成工作。因此,这类设备的安全性和准确性门槛非常高。

面对多种发现,你们如何确保安全性和准确性?

最关键的因素在于模型本身的准确性。在过去一年中,我们筹集了超过 3 亿美元资金。这是因为训练这些模型的成本极高,没有任何捷径可走,必须用大量数据进行训练。

第二个关键环节是验证工作。当模型规模如此庞大时,验证就变成了一项艰巨的任务——我们该如何在如此多的疾病种类上进行验证?这正是我们选择通过突破性认定路径的原因。核心问题在于:如何验证?如何在初期以及后续推广应用中确保模型的安全性?

获得突破性认定之后,你们的下一步计划是什么?

突破性设备认定只是一个阶段性步骤,产品目前尚未获得正式批准,因此我们仍需完成临床试验并取得 FDA 的上市许可。

我们的计划是在未来一年半内,覆盖 CT 和 X 光检查中几乎所有的常见疾病。

大约一年前,我绝不会说出这样的话,因为当时我认为这不可能实现……而如今 First Read 能够一次性覆盖超过 100 种疾病。

这是我们的期望,也是我们认为可以实现的目标。但另一方面,我必须要说,我们绝不会推出任何我们认为不安全的产品。因此,如果某项功能未能达到安全和质量标准,即使需要再多花一年时间,那也是最重要的事情。

这一工具如何融入放射科医生的工作流程?他们如何与它互动?

正如其名称所示,我设想这扮演的是“初读”角色。AI 先进行第一轮解读,然后由医生审阅、评估并做出修改。显然,医生仍然掌握着最终决定权。

我们希望从 AI 中获得什么?更高的判读安全性和准确性、更短的诊断时间以及更强的处理能力。这一切最终都归结于模型准确性的问题。如果我为你起草的报告在大多数情况下质量不佳,你会逐渐失去信任,宁愿从头开始。但如果我提供的初稿质量足够高,那么这种模式就会成为新的标准。

我注意到一些讨论中对如何防止专业人员技能退化或过度受 AI 建议影响的担忧。你们如何看待这些挑战?

我认同这些担忧,它们确实非常合理。在我看来,最大的风险是自动化带来的依赖。我们应该预见到这一问题的出现,并需要加以缓解。我认为,缓解措施很大程度上与工作流程设计有关。我们如何确保持续的人工监督,并强制人类医生保持主动介入?我认为这将是关键,至少在技术获得更多信任之前是这样。

同时,你需要清楚了解模型在哪些类型的病例上表现优异,在哪些类型的病例上表现欠佳,因此透明度非常重要。