医疗人工智能的监管：政策方法、数据和创新激励

美国国家经济研究局工作论文系列 的规定医学人工智能: 政策方法、数据和创新激励措施阿里尔多拉斯特恩30639年工作报告 国家经济研究局(NATIONALBUREAUOFECONOMICRESEARCH) 麻萨诸塞州大道1050号马萨诸塞州,剑桥021382022年12月 作者感谢MelissaOuellet出色的研究和编程支持。鲍里斯·巴比奇、安娜·戈登伯格、尼科尔森·普莱斯、丹尼尔·杨以及2022年秋季人工智能经济学会议的与会者提供了深思熟虑的评论和反馈。作者报告了德 国数字医学学会科学顾问委员会和HumanFirst战略咨询委员会的成员。从2020年到2021年，她就数字医疗设备的监管和报销等主题向德国联邦卫生部提供咨询。本文表达的观点是作者的观点，不一定反映国家经济研究局的观点。 分发NBER工作文件供讨论和评论之用。它们没有经过同行评审，也没有接受NBER官方出版物随附的 NBER董事会的审查。 ©2022年由阿里尔·多拉·斯特恩。保留所有权利。未经明确许可，可以引用不超过两段的短段文字，但须注明来源，包括©通知。 医疗人工智能的监管：政策方法、数据和创新激励阿里尔·多拉·斯特恩 2022年12月美国国家经济研究局工作论文30639号 冻胶。I11I18,K2,K32、O31O32O33 摘要 对于那些关注健康和技术新闻的人来说，很难超过几天不阅读人工智能（AI）在医疗保健中引人注目的新应用。人工智能在医学及其邻近行业中有无数的应用，人工智能驱动的工具已经在基础科学、转化医学和医疗保健服务的众多角落使用，包括行政工作、诊断和治疗。在诊断和治疗方面，大量且越来越多的人工智能工具符合医疗设备或体外诊断的法定定义。那些这样做的人受到地方当局的监管，对制造商产生实际和战略影响，以及一套更复杂的创新激励措施。本章介绍了医疗器械监管的背景，特别是与软件产品相关的背景，并定量描述了人工智能在FDA监管产品中的出现。本章的实证部分探讨了美国人工智能支持/驱动的医疗设备（“人工智能设备”）的特征。它提供了有关其来源（按公司类型和国家/地区）、安全性（通过相关不良事件和召回来衡量）的数据，最后讨论了监管对医疗人工智能创新激励的影响。 阿里尔·多拉·斯特恩哈佛商学院摩根厅433 波士顿,MA02163 astern@hbs.edu 1.我NTRODUCTION 对于那些关注健康和技术新闻的人来说，很难超过几天不阅读人工智能（AI）在医疗保健中引人注目的新应用 。应用范围从基础科学（例如，理解蛋白质折叠），到转化科学（例如，支持药物发现），再到改进现有的数字产品（例如，机器学习（ML）算法，以调整全基因组测序软件中的缺失数据），再到有望以多种方式改善医疗保健服务的工具。最近的工作强调了人工智能在医疗保健服务中的应用并对其进行了分类，并强调了当代深度学习方法如何可能改变医疗保健（Hinton2022）。人工智能的绝大多数应用都属于三大类之一：（1）行政工作，（2）诊断和（3）治疗。表1提供了适合每个类别的AI工具类型的示例。 表1：人工智能在医疗保健服务中的应用：示例 类别 例子 (1)行政工作 供应商的文档秩序、处方、编码输入提供者数据输入调度筛选 (2)诊断 成像/病理学检查/症状分析诊断模型表现型将非传统数据源 (3)治疗 手术的援助个性化/个性化医疗坚持和健康指导生成治疗建议数字疗法 资料来源:改编自桑德斯etal。2019年 为了进入常规医疗保健服务，用于行政工作的人工智能工具将需要迎合提供者的偏好、工作流程和其他特定于站点的规范（Sandersetal.2019）。除了这些实际和设计挑战之外，人工智能驱动的管理支持工具还需要符合 使用它们的司法管辖区-最值得注意的是HIPAA隐私规则1在美国,GDPR2在欧洲。用于执行或支持医疗保健行政工作的人工智能工具有望通过协助临床医生记录和记录、安排、分类、订购药物以及避免药物错误（包括可预见的负面相互作用）来提高医疗保健服务的效率。重要的是，行政支持工具很少符合受监管医疗产品的条件，并且以遵守适用的隐私法为条件，因此很少属于医疗产品（主要是医疗部门）法规的管辖范围。 然而，在诊断和治疗中，大量且越来越多的人工智能工具符合医疗设备或体外诊断的定义。那些这样做的人受到地方当局的监管，对制造商有暗示和一套更复杂的创新激励措施。本章简要介绍了美国和欧洲医疗器械监管的背景，并讨论了一些新兴的监管方法，这些方法旨在解决将软件作为医疗器械进行监管的一些独特挑战。然后，通过在FDA的数据库中识别受监管的AI设备，仔细研究这些设备。本章的实证部分探讨了美国受监管的、基于软件的、人工智能支持/驱动的医疗部门（“人工智能设备”）。通过利用有关所有医疗器械许可和相关产品摘要的公开信息，本节使用文本分析来识别人工智能设备，并将其与相同医疗产品领域的其他设备进行比较，包括本身由软件驱动的比较器设备的子集。特别是 ，我们根据AI设备起源的公司类型和开发国家来表征它们。本章还介绍了人工智能设备安全性的摘要数据，这些数据是通过强制性不良事件报告和产品召回来衡量的。基于美国数据的描述性统计数据，本章第四部分讨论了监管如何塑造（某些类型的）人工智能设备的创新激励，以及监管创新和监管透明度如何在受监管的人工智能设备的未来中发挥作用。 本章最后简要讨论了 前瞻性的研究议程。 1美国健康保险流通与责任法案（HIPAA）的历史可以追溯到1996年。HIPAA隐私规则“建立了国家标准来保护个人的医疗记录和其他个人可识别的健康信息（统称为”受保护的健康信息“[PHI]），并适用于健康计划、医疗保健信息交换所和那些以电子方式进行某些医疗保健交易的医疗保健提供者。除了要求适当的保护措施“来保护PHI，该规则还限制了如何在未经个人授权的情况下使用/重复使用数据，并赋予个人获取和检查自己健康记录副本的权利。 （https：//www.hhs.gov/hipaa/for-professionals/privacy/index.html） 2欧盟的《通用数据保护条例》（GDPR）“规定了在处理个人数据方面保护自然人的规则，以及与个人数据自由流动有关的规则。该法规进一步“保护自然 人的基本权利和自由，特别是他们保护个人数据的权利”，并管理此类数据在欧盟内的流动。（GDPR第1条第https://gdpr-info.eu/art-1-gdpr款）。GDPR明确承认“有关健康的数据”是其自己的类别，并为GDPR下的数据保护目的（https://edps.europa.eu/data-protection/our-工作/受试者/health_en）提供了健康数据的具体定义。 2.B背景和POLICY一个方法 医疗器械监管在美国 美国医疗产品法规可以追溯到一个多世纪前的1906年《纯食品和药品法案》。然而，现代医疗器械法规始于1976年对1938年联邦食品、药品和化妆品法案的“医疗器械修正案”（MDA）。MDA首次创建了对医疗设备的联邦监督（以前它们由各州监管），并为今天的医疗设备监管建立了框架。《食品、药品和化妆品法》第201（h）条将医疗器械定义为： 仪器、装置、工具、机器、装置、植入物、体外试剂或其他类似或相关物品，包括组件或附件，其： 1.在官方国家处方集或美国药典或其任何补充中得到认可， 2.用于诊断人类或其他动物的疾病或其他病症，或治愈、缓解、治疗或预防疾病，或 3.旨在影响人或其他动物身体的结构或任何功能，并且不能通过人或其他动物体内或身体上的化学作用达到其主要预期目的 ，并且 不能通过在人或其他动物体内或身体上的化学作用达到其主要预期目的，并且不依赖于被代谢以实现其主要预期目的。术语“设备”不包括根据第520（o）条排除的软件功能。3 简而言之，医疗器械是诊断或治疗疾病的工具，它不是代谢（生物或制药）产品。 当前的医疗器械法规侧重于为用户提供（包括患者、临床医生、提供者组织和护理人员）有关医疗器械安全性和有效性的合理保证。医疗器械由FDA器械和放射健康中心（CDRH）监管，该中心对所有器械使用基于风险的（3层）分类系统：4 风险最低（I类）的设备仅受一般制造控制，通常不需要上市前提交/申请。这些产品包括压舌板、避孕套 、乳胶手套、绷带和外科口罩等。 中等风险（II类）设备通常通过称为“上市前公告”的过程进行监管，或者更常见的是“510（k）过程”。此过程要求设备证明与一个或多个已合法销售的设备具有“实质等同性”。5没有合法销售的“谓词”设备的II类设备也可以使用“从头”分类请求来 3https：//www.fda.gov/medical-devices/classify-your-medical-device/how-determine-if-your-product-medical-device 4https：//www.fda.gov/medical-devices/overview-device-regulation/classify-your-medical-device 5如果与谓词相比，一种装置具有相同的预期、相同的技术特征或相同的预期用途，并且具有不同的技术特征，并且不引起不同的安全性和有效性问题，则该装 置被视为实质上等同;提交给FDA的信息表明该设备与合法销售的设备一样安全有效（https://www.fda.gov/med-设备/上市前提交-选择和准备-正确提交/上市前通知-510k） 如果制造商能够为设备用于预期用途的安全性和有效性提供合理的保证，则进入市场。然后，后续设备可以使用通过DeNovo过程进入市场的设备作为其自己随后的510（k）应用程序的谓词。 最后，风险最高的设备（III类）是那些可植入和/或维持生命的设备，因此，需要重要的安全性和有效性证据才能被批准上市。除了少数早于MDA的设备外，III类设备通过称为“上市前批准”或“PMA流程”的过程进行监管，这是所有上市前提交中最严格的，通常需要临床研究的证据。PMA流程比510（k）流程要繁琐得多，并且与新医疗器械产品代码中先行者的监管批准时间更长有关（Stern2017）。 除了为新医疗器械建立这些监管途径外，MDA还为在人类患者中研究的新研究器械创造了监管途径，即研究器械豁免（IDE），并建立了若干上市后要求和流程-包括不良事件报告要求-和良好生产规范（GMP）。1990年的《安全医疗器械法》填补了医疗器械监管方面的额外政策空白，授权FDA下令召回器械，对违规行为处以民事处罚，并通过要求制造商和用户设施（医院、诊所、疗养院等）报告与使用特定医疗器械相关的不良事件来改善上市后监督。6此外，FDA的突破性设备计划于2018年创建，旨在为患者和医疗保健专业人员提供更及时的设备，“为危及生命或不可逆转的衰弱性疾病或病症提供更有效的治疗或诊断”，截至2022年第三季度末，共有56台具有突破性设备称号的设备已获得上市许可。7 无论使用何种监管途径，所有设备都分为3个字母的产品代码，用于描述设备的通用使用类别。因此，在产品代码中，设备非常适合彼此的优秀替代品。例如，冠状动脉药物洗脱支架（NIQ）、导管、视网膜再附着球囊（LOG）、血氧仪、胎儿脉搏（MMA）和输液安全管理软件（PHC）存在唯一的产品代码。8监管发生在CDRH咨询委员会的18个小组级别，这些小组按医学专业组织（例如，“循环系统设备小组”审查心血管设备，而“放射设备小组”审查放射设备）。 对于通过510（k）或DeNovo流程获得批准或通过PMA流程批准的设备，在设备收到积极的监管决定时，会在线发布一些公共文件。其中包括用于510（k）跟踪设备的设备“摘要”，其中“包括设备的描述，例如可能 6https：//www.fda.gov/medical-devices/overview-device-regulation/history-medical-device-regulation-oversight-united-s