通过人工智能应对全球挑战（英）

给总统的报告 增压研究：利用人工智能应对全球挑战 总统办公厅 总统科技顾问委员会 2024年4月 关于总统科技顾问委员会 总统科技顾问委员会（PCAST）是由总统任命的联邦咨询委员会，旨在加强白宫内部和联邦机构向他提供的科技建议。PCAST由28位国家思想领袖组成，他们因在学术界，政府和私营部门的杰出服务和成就而被选中。PCAST就涉及科学，技术和创新政策的事项以及涉及科学和技术信息的事项向总统提供建议，这些事项需要为影响经济，工人赋权，教育，能源，环境，公共卫生，国家和国土安全，种族平等和其他主题的政策提供信息。 有关PCAST的更多信息，请参见www.whitehouse.gov/pcast。 总统执行办公室总统科技顾问委员会华盛顿特区20502 小约瑟夫·R·拜登总统白宫华盛顿特区 尊敬的总统先生， 贵国总统科技顾问委员会(PCAST)对贵国政府为推进人工智能(AI)的安全和有效使用而采取的前瞻性方法感到兴奋。1根据您关于人工智能的安全，安全和可信开发和使用的具有里程碑意义的行政命令中的要求，我们很高兴在此报告AI应用于研究以应对重大社会和全球挑战的可能性。 AI将从根本上改变我们的科学方式。许多领域的研究人员已经在利用人工智能来为一系列长期存在的问题寻找新的解决方案。今天，科学家和工程师正在使用人工智能来设想、预测性设计和创造新的材料和治疗药物。在不久的将来，人工智能将通过分析现有数据的新方法以及开发和分析新型匿名和验证数据，在社会科学领域取得前所未有的进步。这些进步将使政府更好地了解政策如何影响美国人民，并改进这些政策以更好地满足社会需求和挑战。人工智能还将允许研究人员快速运行数百万个基于计算机的模拟实验，以提供有关最重要的现实实验的指导 。在工业实验室中，丰富的模拟将能够识别设计中的危险或缺陷，以便科学家和工程师可以创建更安全，可扩展和高效的产品，美国工业和美国消费者可以依赖。总之，人工智能正在彻底改变研究过程，丰富科学模型，加速数据生成和分析，其影响将是深远的。 除了它的机遇之外，我们必须认识到人工智能可以带来新的问题和挑战，例如提取嵌入在扭曲的训练数据中的错误和偏见，计算过程所需的巨大且不断增加的能量。错误的科学可能在不知不觉中产生的可能性，以及邪恶的行为者可以轻松地将新的强大的AI技术用于恶意目的。专家人类监督，在AI算法中建立保护，以及负责任的使用文化，包括适当应用监管框架，如您的AI权利法案蓝图和国家标准与技术研究所的AI风险管理框架中所述，对于减轻AI的弱点和危险至关重要。幸运的是，再现性和验证是的核心原则。 1白宫。（2022年10月）。人工智能权利法案蓝图：让自动化系统为美国人民工作。 2行政命令14110，88FR75191。(2023年10月)。“人工智能的安全、可靠和可信的开发和使用”。 3白宫管理和预算办公室。（2024年3月）。推进机构使用人工智能的治理、创新和风险管理。[备忘录M-24-10] 科学方法。因此，科学界已经在AI可重复性，测试和评估方面进行了充满活力的开创性研究，以便研究人员以及每个人最终都能够以与我们使用计算器相同的信心使用AI工具。 最终，我们的愿景是，负责任地使用人工智能将使科学家和工程师能够利用这种变革性技术的机会，同时导航和减轻其弱点。 根据你的行政命令，并在你的政府的大胆工作的基础上，PCAST提供调查结果和行动建议，这将有助于美国充分利用人工智能的潜力，公平和负责任地推动研究，以应对世界挑战。 Sincerely, 总统科技顾问委员会 目录 给白宫的信2 人工智能工作组9 执行摘要10 1.Introduction15 科学的加速16 人工智能和机器学习17 创成式AI18 2.人工智能支持研发的未来愿景20 AI方法将帮助研究人员优先考虑最有可能的解决方案21 通过处理常规任务，AI将允许科学家专注于核心研究21 Rote实验室流程将实现自动化和改进22 以前棘手的模拟将成为可能22 共享模型和数据将减少重复劳动，使研究民主化，并降低使用的总成本AI23 多式联运基础模型将汇集多种形式的数据，并在分支机构之间创造新的协同作用科学24 AI将帮助研究人员利用数据做更多的事情25 将出现新的合作形式26 负责任的AI实践将整合到研究工作流程中26 一旦必要的AI基础设施到位，新的科学“月球”将成为可能27 3.AI增强发现并解决全球和社会问题的关键机会挑战28 31.材料发现的相变28 3.2用于设计高级半导体的AI31 3.3.了解和应对气候变化和极端天气33 3.4揭示宇宙的基本物理学35 3.5研究人类行为，组织和机构37 3.6推进生命科学的基本认识39 3.7AI在生命科学中的突破性应用41 4.调查结果和建议46 发现1：缺乏获得先进技术的途径阻碍了重要研究模型47 建议1：扩大现有努力，广泛和公平地共享基本人工智能资源。48 发现2：尖端研究需要访问高质量数据50 建议2：扩大对联邦数据集的安全访问，以满足经批准的关键研究需求，并提供适当的保护和保障措施51 发现3：AI为学术界，工业界和联邦所有部门的合作提供了独特的资源政府52 建议3：支持AI的基础和应用研究，涉及学术界，工业界，国家和联邦实验室以及联邦机构之间的合作，如NAIRR任务制定的NAIRR愿景所述Force53 发现4：如果没有适当的基准指标，验证程序和负责任的实践，AI系统可能会给出不可靠的输出，其质量难以评估，并且可能对科学领域及其应用程序54 建议4：在科学研究的所有阶段采用负责任，透明和值得信赖的AI使用原则过程54 发现5：最佳性能需要AI和人类专业知识55 建议5：鼓励创新方法将AI辅助整合到科学中工作流56 5.结论57 附录A：术语表58 附录B：咨询的外部专家61 致谢62 总统科技顾问委员会 共同主席 弗朗西斯·H·阿诺德 莱纳斯·鲍林化学工程，生物工程和生 物化学教授加州理工学院 玛丽亚·T·祖伯 研究副总裁和地球物理学E.A.Griswold教授 麻省理工学院 成员 DanE.Arvizu 前财政大臣 新墨西哥州立大学系统 丹尼斯·阿桑尼斯 总裁 特拉华大学 JohnBanovetz 执行副总裁、首席技术官和环境责任 3M公司 弗朗西丝·科隆 美国进步国际气候中心高级主任 LisaA.Cooper Bloomberg杰出的健康与医疗保健公平教授和健康公平中心主任 约翰·霍普金斯大学 JohnO.Dabiri 百年航空与机械工程教授加州理工学院 AratiPrabhakar 科学和技术政策办公室主任科技总裁助理 白宫 威廉·达利 首席科学家兼研究高级副总裁 NVIDIA 苏·德斯蒙德-赫尔曼 前CEO 比尔和梅林达·盖茨基金会 InezFung 加州大学伯克利分校大气科学教授 安德里亚·戈德史密斯 工程与应用科学学院院长兼电气与计算机工程 ArthurLeGrandDoty教授普林斯顿大学 劳拉·H·格林 国家强磁场实验室首席科学家 佛罗里达州立大学，佛罗里达大学，洛斯阿拉莫斯国家实验室 佛罗里达州立大学物理学教授MarieKrafft PaulaHammond 学院教授，副教务长，科赫综合癌症研究所成员 麻省理工学院 埃里克·霍维茨 微软首席科学官 JoeKiani董事长兼首席执行官Masimo 乔恩·莱文 PhilipH.Knight教授兼商学院研究生院院长 斯坦福大学 史蒂夫·帕卡拉 FrederickD.Petrie生态与学系名誉教授 普林斯顿大学进化生物 学 SaulPerlmutter FranklinW.和KarenWeberDabby物理学教授，伯克利数据科学研究所所长 加州大学伯克利分校高级科学家劳伦斯伯克利国家实验室 威廉出版社 LeslieSurginer计算机科学和综合生物学教 授 德克萨斯大学奥斯汀分校 JenniferRicheson PhilipR.Allen心理学教授兼社会感知与沟通实验室主任 耶鲁大学 VickiSato 哈佛商学院管理实践教授（退休） LisaSu 总裁兼首席执行官高级微设备(AMD) 凯瑟琳·D·沙利文 前宇航员 国家航空航天局前管理员 国家海洋和大气管理局 陶特伦斯 教授&詹姆斯和卡罗尔柯林斯主席在文学与科学学 院 加州大学洛杉矶分校 PhilVenables GoogleCloud首席信息安全官 凯瑟琳·沃特基 生物复杂性研究所特聘教授 弗吉尼亚大学 食品科学与人类营养学教授爱荷华州立大学 PCAST工作人员 劳拉·坎贝尔 执行董事 RebaBandyopadhyay 副执行主任 梅丽莎·爱德华兹 副执行主任助理 Bich-Thuy(Twee)Sim 转化医学和健康创新助理主任 金伯利劳伦斯 行政专家 RiyaDhar 实习生 MayaMillette 前实习生 人工智能工作组 工作组成员参与了本报告的编写。PCAST的全体成员审查并批准了该报告。 共同领导 陶特伦斯 教授&詹姆斯和卡罗尔柯林斯主席在文学与科学学 院 加州大学洛杉矶分校 成员 JohnBanovetz 执行副总裁、首席技术官和环境责任 3M公司 威廉·达利 首席科学家兼研究高级副总裁 NVIDIA 埃里克·霍维茨 微软首席科学官 乔恩·莱文 PhilipH.Knight教授兼商学院研究生院院长 斯坦福大学 劳拉·H·格林 国家强磁场实验室首席科学家 佛罗里达州立大学，佛罗里达大学，洛斯阿拉莫斯国家实验室 佛罗里达州立大学物理学教授MarieKrafft SaulPerlmutter FranklinW.和KarenWeberDabby物理学教授，伯克利数据科学研究所所长 加州大学伯克利分校高级科学家劳伦斯伯克利国家实验室 威廉出版社 LeslieSurginer计算机科学和综合生物学教 授 德克萨斯大学奥斯汀分校 LisaSu 总裁兼首席执行官高级微设备(AMD) PhilVenables GoogleCloud首席信息安全官 执行摘要 人工智能（AI）有可能彻底改变我们应对人类最紧迫挑战的能力，为研究人员提供加速科学发现和技术进步的工具。可以基于大量数据集和广泛计算来创建内容的生成AI将特别具有变革性。生成AI的示例包括大型语言模型、图像生成模型和生成科学模型。在2023年10月30日发布的关于人工智能的安全，安全和可信发展和使用的全面行政命令中，拜登总统责成PCAST报告“人工智能在旨在应对重大社会和全球挑战的研究中的潜在作用” 。“PCAST很高兴为履行这项收费提供这份报告。 凭借精心设计、公平共享和负责任地使用的基础设施，人工智能将使科学家能够应对紧迫的挑战，包括在气候变化时期改善人类健康和加强天气预报。人工智能可以帮助探索激发和拓展人类创造力的长期科学奥秘，例如揭示宇宙的起源和进化。人工智能还将帮助研究人员解决持续的国家需求，从加速半导体芯片设计到发现新材料以满足我们的能源需求。此外，人工智能开始消除使科学研究缓慢和昂贵的障碍，例如通过提供快速确定最佳候选药物进行测试的手段（从而减少昂贵的实验室试验的数量）。帮助优化实验设计，并比手工或使用传统数据科学方法更有效地揭示数据中的连接。如果基本的AI资源，经过验证的数据以及科学工具和培训可以广泛使用，那么AI技术就有可能使科学知识民主化。4将相互关联的技术概念带给更多的人，并使不同的研究人员能够将他们的专业知识和观点带到社会和全球挑战中。 正如任何其他新工具或技术一样，实现人工智能的潜力将需要解决其局限性。这些问题包括误导性或不正确的结果，偏见或不平等的延续5以及从模型训练数据中嵌入的模式中采样错误，对高质量训练数据的访问受限，保护知识产权和隐私的挑战，训练或部署模型或运行AI算法所需的大量能量，以及不良或邪恶行为者将使用现成的AI工具用于恶意目的的风险。解决这些问题的许多公共和私营部门活动已经在进行中，包括根据2023年10月人工智能行政命令承担的政府努力。重复性和验证是科学完整性和科学方法的关键原则，随着我