人工智能健康伦理与治理：大型多模式模型指南（英）2024

伦理和治理人工智能健康 大型多模态模型指南 伦理和治理人工智能健康 大型多模态模型指南 健康人工智能的伦理与治理。大型多模态模型指南 ISBN978-92-4-008475-9(电子版)ISBN978-92-4- 008476-6(印刷版) ©WorldHealthOrganization2024 保留某些权利。此作品可根据知识共享署名-非商业-共享3.0IGO许可证（CCBY-NC-SA3.0IGO;https://creativecommons.org/licenses/by-nc-sa/3.0/igo）获得。 根据本许可证的条款，您可以复制，重新分发和改编作品用于非商业目的，只要该作品被适当引用，如下所示。在使用这项工作时，不应建议世卫组织认可任何特定组织、产品或服务。不允许使用WHO徽标。如果你适应工作，那么你必须在相同或同等的知识共享许可下许可你的工作。如果您创建此作品的翻译，则应添加以下免责声明。 建议引用：“此翻译不是由世界卫生组织（WHO）创建的。WHO对本翻译的内容或准确性不负责。英文原版应为装订正版 o” 与根据许可证产生的争议有关的任何调解均应根据世界知识产权组织的调解规则进行。（ http://www.wipo.int/amc/en/mediation/rules/）。 建议引用。健康人工智能的伦理和治理。大型多模式模型指南。日内瓦:世界卫生组织；2024年。许可证:CCBY-NC-SA3.0IGO 。 出版物编目(CIP)数据CIP数据可在http://apps.who.int/iris查阅。 销售、权利和许可。要购买世卫组织出版物，请参见http://apps.who.int/bookorders。要提交商业用途请求以及有关权利和许可的查询，请参见http://www.who.int/about/licensing。 第三方材料。如果您希望重新使用此作品中归因于第三方的材料，例如表格，图形或图像，则您有责任确定该重新使用是否需要许可并获得版权所有者的许可。由于作品中任何第三方拥有的组件受到侵权而导致的索赔风险完全由用户承担。 一般免责声明本出版物中使用的名称和材料的介绍并不意味着世卫组织对任何国家、领土、城市或地区或其当局的法律地位或对其边界或边界的划定表示任何意见。 地图上的虚线和虚线代表可能尚未完全一致的近似边界线。 提及特定公司或某些制造商的产品并不意味着它们得到世卫组织的认可或推荐，而不是未提及的其他类似性质的产品。除错误和遗漏外，专有产品的名称以首字母大写字母区分。 世卫组织已采取一切合理的预防措施来核实本出版物中的信息。但是，分发已发布的材料没有任何明示或暗示的保证。解释和使用该材料的责任在于读者。在任何情况下，世卫组织都不对因使用该材料而造成的损害负责。 图形设计：JoannaSleigh（苏黎世联邦理工学院，苏黎世，瑞士 ）布局：ImprimeieCentrale（卢森堡） Contents 致谢v 缩写vii 执行摘要viii 1Introduction1 1.1LMMs3的意义 1.2世卫组织关于人工智能促进健康的伦理和治理的指导4 I. LMMs的应用、挑战和风险7 2中使用LMM的应用和挑战health8 2.1诊断和临床护理8 2.2以患者为中心的应用12 2.3文书职能和行政任务16 2.4医学和护理教育17 2.5科学和医学研究与药物开发17 3卫生系统和社会的风险以及使用的伦理问题 LMMs20 3.1卫生系统20 3.2遵守法规和法律要求23 3.3社会关注和风险24 II.医疗保健和医学中LMM的伦理与治理31 4通用基础模型的设计与开发 (LMM)34 4.1在通用开发过程中需要解决的风险- 目的基础模型(LMM)34 4.2开发人员可以采取的应对风险的措施- 目的基础模型(LMM)35 4.3政府法律、政策和公共部门投资39 4.4开源LMMs41 5(LMM)45 5.1(LMM)45 5.2政府可以采取的应对此类风险的措施 和道德原则，应该是坚持46 6 6.1(LMM)53 6.2部署54 6.3 6.4实践55 7LMM58 8 Acknowledgements 世界卫生组织（WHO）指南的制定由AndreasReis（卫生部健康伦理和治理部门的共同负责人）领导 和SameerPujari（数字健康与创新部），在JohnReeder（健康研究总监），AlainLabrique（数字健康与创新总监）和JeremyFarrar（首席科学家）的总体指导下。 RohitMalpani（法国顾问）是主要作者。世卫组织健康人工智能伦理和治理专家组的联合主席EffyVayena（瑞士苏黎世联邦理工学院）和ParthaMajumder（印度统计研究所和印度国家生物医学基因组学研究所）为起草报告和专家组的领导提供了总体指导。 世卫组织感谢以下个人为制定本指南做出了贡献。 世卫组织人工智能促进健康的伦理和治理专家组 NajeebAlShorbaji,eHealthDevelopmetAssociatio,Amma,Jorda;MariaPazCaales,GlobalPartersDigital,智利圣地亚哥;ArisaEma,Toyo,UiversityofToyo,Toe,Japa;AmelGhoila,比尔和梅林达·盖茨基金会，美国西雅图（WA）；JeiferGibso，世卫组织生物伦理学合作中心，多伦多大学，加拿大，多伦多；KeethGoodma，哥本哈根，生物伦理学和健康政策研究所，迈阿密大学米勒医学院，美国；MalavaJayaram，数字亚洲中心，新加坡；DadiJjjjjigo，伦敦大学，印度医学中心 意大利都灵；南非德班纳塔尔省Kwa-Zulu大学的JeromeSingh；荷兰代尔夫特大学的JeroenvandenHoven（王国）；瑞士苏黎世联邦理工学院的EffyVayena；新西兰奥克兰大学的RobynWhittaker；和中国科学院曾毅，中国北京。 观察员 DavidGruson，Luminess，法国巴黎；LeeHibbard，欧洲委员会，法国斯特拉斯堡 外部审稿人 OreAsma，特拉维夫大学，以色列特拉维夫；I.GleCohe,HarvardLawSchool,Bosto(MA),USA;AlexadriePirlotdeCorbio,PrivacyIteratioal,Lodo,UitedKigdish;RodrigoLis,FederalUiversityofPeramco,Recife,巴西；美国西雅图（WA）比尔和梅林达·盖茨基金会综合发展副主任DogMcNair；南非开普敦斯泰伦博斯大学的KeymathriMoodley；以色列特拉维夫特拉维夫大学的AmirTal；英国伦敦的TomWest隐私国际。 外部贡献者 指南的方框2（儿童使用LMM的道德考虑）由美国斯坦福大学（加利福尼亚州）的VijaythaMuralidharan，AlyssaBurgart，RoxanaDaneshjou和SherriRose起草。指导的方框3（与LMM相关的道德考虑及其对残疾人的影响）由瑞士日内瓦独立顾问YonahWelker起草。 所有外部审查人员、专家和撰稿人都根据世卫组织的政策宣布了他们的利益。声明的利益都没有被评估为重大利益。 WHO ShadaAl-Salamah，日内瓦数字卫生和创新部技术干事；MariamOtmaiDelBarrio，日内瓦热带病研究特别计划科学家；MarceloD'Agostio，世卫组织美洲区域办事处信息系统和数字卫生股股长，华盛顿(DC)；日内瓦首席科学家JeremyFarrar；丹麦哥本哈根，世卫组织欧洲区域办事处技术干事ClaytoHamilto；日内瓦数字卫生和创新部顾问KaiaKalra；开罗，世卫组织东地中海区域办事处研究和创新协调员AhmedMohamedAmiMadil；IssaMatta，日内瓦法律事务；JoseEdardoDiazMedoza，日内瓦数字健康与创新部顾问；MohammedHassaNor，。 世卫组织东地中海区域办事处数字卫生和创新司技术干事，开罗；数字司技术干事DeniseSchalet 日内瓦卫生与创新；日内瓦数字卫生与创新部技术官员YuZhao。 缩写 AI人工智能LMM大型多模态模型美国美利坚合众国 执行摘要 人工智能（AI）是指将算法集成到系统和工具中以从数据中学习的能力，以便它们可以执行自动化任务，而无需人类对每一步进行明确编程。生成AI是 在可用于生成新内容（如文本、图像或视频）的数据集上训练哪些算法。该指南解决了一种类型的生成AI，大型多模态模型（LMM），它可以接受一种或多种类型的数据输入，并生成不限于馈送到算法中的数据类型的不同输出。预计LMM将在医疗保健、科学研究、公共卫生和药物开发等领域得到广泛的应用和应用。LMM也被称为“通用基础模型”，尽管尚未证明LMM是否可以完成广泛的任务和目的。 LMM的采用速度比历史上任何消费者应用程序都要快。它们之所以引人注目，是因为它们促进了人机交互，以模仿人类交流并生成对查询或数据输入的响应，这些响应可能看起来像人类和权威。 随着消费者的迅速采用和吸收，以及其颠覆核心社会服务和经济部门的潜力，许多大型科技公司、初创企业和政府正在投资并竞争指导生成人工智能的发展。 2021年，世卫组织发布了关于人工智能促进健康的伦理和治理的综合指南(1)。世卫组织咨询了20位人工智能领域的主要专家，他们确定了在医疗保健中使用人工智能的潜在益处和潜在风险，并发布了六项原则，以协商一致方式达成共识，供政府、开发者和提供者在使用人工智能的政策和实践中考虑 。这些原则应指导包括政府、公共部门机构、研究人员、公司和实施者在内的广泛利益相关者在医疗保健中开发和部署人工智能。这些原则是：（1）保护自主权；（2）促进人类福祉，人类安全和公共利益；（3）确保透明度，“可解释性”和可理解性；（4）促进责任和问责制；（5）确保包容性和公平性；（6）促进响应和可持续的人工智能（图1）。 世卫组织正在发布本指南，以协助会员国了解与使用LMM进行卫生相关的益处和挑战，并制定适当开发、提供和使用的政策和做法。该指南包括与指导原则相一致的公司内部，政府和国际合作的治理建议。原则和建议，这说明了。 对于人类可以使用生成AI进行健康的独特方式，是本指南的基础。 图1：世卫组织关于使用人工智能促进健康的共识伦理原则 保护自主权 促进人类福祉、人类安全和公共利益 确保透明度、可解释性和可理解性 促进责任和问责制 确保包容性和公平性 促进响应和可持续的 AI 大型多模态模型的应用、挑战和风险 LMM在医疗保健中的潜在应用与其他形式的AI相似，但是LMM的获取和使用方式是新的，具有新的利益和风险，社会，卫生系统和最终用户可能尚未准备好充分解决。表1总结了LMM的主要应用及其潜在利益和风险。 与使用LMM相关的系统性风险包括可能影响卫生系统的风险（表2）。 使用LMM可能会出现更广泛的监管和系统性风险。一个问题（正在由多个数据保护机构进行审查）是LMM是否遵守现有的法律或监管制度，包括国际人权义务以及国家数据保护法规。算法可能不符合这些法律，因为收集数据以训练LMM的方式，已经收集的数据的管理和处理（或最终用户放入LMM中），开发LMM的实体的透明度和问责制，以及LMM“幻觉”的可能性。LMM也可能不符合消费者保护法。 与越来越多地使用LMM相关的更广泛的社会风险(包括和超出在医疗保健中使用此类算法)包括以下事实:LMM通常由大型技术公司开发和部署,部分原因是开发LMM所需的大量计算、数据、人力和财力资源。这可能会加强这些公司在人工智能开发和使用方面相对于小型企业和政府的主导地位 ，包括公共和私营部门人工智能研究的重点。