预测生物风险 ： 战略生物安全政策工具包

问题简报 预测生物风险 战略生物安全政策工具包 作者StephBatalis 2024年12月 执行摘要 生物威胁来自病原体和毒素，无论这些威胁是自然的还是经过工程改造的、有意图的还是无意图的，它们都有能力造成重大且广泛的影响。尽管近期的新闻和政策讨论主要集中在增强或利用人工智能（AI）的生物威胁上，但现有的病原体和毒素已经能够造成危害。为了应对不同来源的生物威胁，政策制定者需要一系列的治理工具和缓解措施。构建这样一套工具的第一步是理解各种情景下导致生物危害的过程是什么样子。然后可以根据这一过程的不同阶段来组装一系列政策选项以进行干预。 这份报告探讨了可能导致生物危害的两种一般场景。第一种场景概述了恶意行为者可能采取的步骤，以故意生成并部署病原体或毒素（在整个报告中用目标图标标记）。第二种场景描述了在合法科学研究过程中可能导致无意间实验室事故的行动（在整个报告中用试管图标标记）。每个场景都涉及一系列规划和物理阶段，提供了多种机会来构建包含各种机制的政策工具箱。 在描述每条路径的同时，本报告还盘点了为加强美国生物安全和生物防御所提出的众多建议，并将这些建议映射到它们适用的步骤和情景中。通过这一过程，我们识别出治理空白，并指出通过实施新的保障措施或改进现有措施来解决这些问题的机会。主要发现包括： •一些保障措施既适用于故意滥用也适用于合法的科学研究，而另一些则特定于某一场景。•研究监督机制主要针对联邦资助的研究项目，这留下了监管和透明度方面的缺口，特别是对于非联邦资助的研究。•生物安全、生物安保和生物防御的责任跨越政府的任务、部门和机构，并需要加强协调。•有效的监督将受益于一个明确且具体定义了令人关切的结果的生物风险框架。 本报告中提供的选项构成了一个全面的工具箱，政策制定者可以将其应用于整个生物风险流程中。这些解决方案是 旨在减轻来自各种来源的生物危害，包括当前受到广泛关注的与AI相关的担忧。通过在多个步骤中叠加防护措施，政策制定者可以更有效地应对AI增强型和AI无关威胁，而不至于过度妨碍科学创新。 图A：病原体或毒素造成生物危害的途径的简化视图* 资料来源：CSET。 注意：蓝色虚线表示“计划到物理”过渡，红色方框表示有害结果。 *执行摘要中的图A与下面的图4相同。 目录 执行摘要............................................................................................................................ .........1 简介................................................................................................................................... ............4 两种生物风险路径的政策工具箱........................................................................................ ....6 规划与设计和物理执行阶段............................................................................................... ..6 第一阶段：规划与设计...................................................................................................... ......8 步骤：概念生成或假设形成8 步骤：研究规划（信息收集，可选的生物设计）........................................................81 1步：获取研究资金17阶段2：实物执行18步：获取材料23.步骤：物理处理(实验和生产, 武器化）.2 2结果：释放与暴露（故意部署或意外containment破坏）............................................. ..................................................................24结果：潜在传播....................................... .......................................................26结果：科学发现及潜在的信息风险...................... .........27总结思考............................................................................................................ .............29作者................................................................................................................ ......................................31致谢....................................................................................... ........................................31参考文献.............................................................................. ...................................................................32 Introduction 病原体和毒素是生物防御最紧迫关注问题的核心。生物危害的威胁景观范围广泛且多样 ，从动物传给人类的自然发生的疾病，到日益增多的抗微生物耐药感染，再到由于人类或机械错误导致的实验室意外事故，以及来自恶意行为者的故意生物威胁。1 最近，担忧扩展至包括故意或无意中通过人工智能加速或以其他方式增强的生物威胁。2关于AI增强的生物威胁的讨论已纳入公共和政策层面的对话中，包括对AI工具可能帮助潜 在生物恐怖分子实施滥用计划或设计更具针对性、特定性或危险性的病原体或毒素的担忧。3治理这些AI工具尤为具有挑战性，因为这些工具已经证明在合法的科学研究中极具用途，并且很可能会为未来的科学、生物医学、公共卫生和环境进步作出贡献。 政策制定者在其治理工具箱中有一系列选项来应对可预见的生物危害。这些选项不仅限于“AI解决方案”，而是涵盖了导致生物危害的多步骤过程。通过在多个步骤中叠加保护措施，政策制定者可以更有效地缓解AI增强型和非AI增强型威胁。例如，当前对AI监管的关注度很高，但仅能防止某些类型的生物风险。虽然模型保护措施应予以追求，但它们应被视为更大范围的安全工具包中的一个工具。多层次的方法还能够从一个强大的生物安全和生物安全专家社区中受益，这些专家已经进行了数十年关于美国生物防御缺口和建议的研究。4 为了实施分层保护措施，政策制定者应首先理解导致生物危害的多步骤过程以及在各个阶段可以采取哪些干预措施来减轻风险。本报告概述了涉及使用或生成病原体或毒素的两种情景中的这些步骤：（1）恶意行为者故意滥用生物学；（2）合法科学研究中的实验室事故导致生物因子的无意释放。这两种情景是本报告的重点，因为它们最近受到了特别关注，尤其是在与人工智能可能加剧负面结果的可能性相关的担忧中。 这份报告还呈现了一套潜在选项，以防范病原体和毒素导致的意外或故意危害，这些选项与路径中最具适用性的步骤相对应。这些选项包括各种专家之前建议的缓解措施，同时考虑政策制定者在决定是否以及利用哪些工具时需要牢记的各种因素和挑战。 映射每个方案及其相应的政策杠杆揭示了以下关键要点： ●一些保护措施同时适用于故意滥用和合法的科学研究，而其他措施则专门针对特定场景。未来努力需确保明确目标场景以应用正确的政策工具。未来的工作还可以进一步评估故意滥用在国家与非国家行为体之间有何不同，或哪些保障措施适用 于国内与国外行为体。 ●研究监督机制主要针对由联邦资金资助的研究项目，导致非联邦资金资助的研究项目在监管和透明度方面存在空白。大多数在此讨论的研究监督措施使用联邦研究资金作为执行杠杆，以确保安全或联邦报告要求。这忽略了没有联邦资助但仍可能导致 有害或未预见后果的研究。为了监控或规范这种类型的研究，需要新的监管措施。 ●生物安全、生物安保和生物防御责任跨越政府机构、部门和机关，并要求加强协调。生物风险管道中的各项措施和政策干预表明，需要采取整体政府的方法，在有效防范潜在危害的同时促进科学研究和创新。目前美国生物防御生态系统存在碎 片化问题，这将导致监管和信息共享方面的挑战，需要各机构在协调、战略和整合方面采取更大力度的措施来克服这些挑战。5 ●有效的监督将受益于一个明确且具体定义了令人担忧的结果的生物风险框架。尽管生物风险经常被提及为新科技（如AI）所担忧的问题，但尚未形成对具体风险及其特定后果的全面理解。缺乏一个清晰可解释的生物风险框架阻碍了对威胁进行优先级排序以及设计和测试相应的防护措施的能力。 两种Biorisk途径的策略工具包 这份报告将讨论两种途径的一般简化步骤：一种是有意生成病原体和毒素以滥用的恶意行为者（在整个报告中用目标图标标记），另一种是合法科学研究过程中发生的实验室事故（在整个报告中用试管图标标记）。相关政策选项将与最有可能受到影响的步骤一起呈现，所有这些政策选项具有不同的目的，并通过多种机制发挥作用。 请注意，尽管本报告将这些步骤描绘为线性路径，但在实际生活中它们可能会倒退、重复或以不同的顺序发生。例如，研究往往涉及解决实验问题并反复迭代实验协议、方法和材料。这些变化虽未在本报告的图表中体现，但相关的风险缓解策略在任何步骤的顺序下都是适用的。 规划和设计以及实际执行阶段 生成病原体或毒素的路径分为两个大致阶段：规划与设计以及实际执行（如图1所示）。在规划与设计阶段，用户生成他们所需产品的设计方案，并制定详细的步骤计划以创建该产品。在实际执行阶段，用户将计划从计算机屏幕或实验室笔记本中转化为现实，通过实际生产来生成病原体或毒素。* *在讨论人工智能对生物安全的影响时，这通常被称为“数字到物理过渡”，因为它描述了计算机预测转变为实际物理对象的阶段。 图1：病原体或毒素导致生物危害的途径的简化视图 资料来源：CSET。 注意：蓝色虚线表示“计划到物理”过渡，红色方框表示有害结果。 第1阶段：规划和设计 规划与设计阶段在实际操作之前草拟整体的实验和操作规程。这一阶段通常包括概念化 、信息收集以及设计实验研究计划。这些步骤尚未涉及材料或导致实际感染的具体物理行动。规划与设计阶段的一般步骤及其可能受到影响的政策选项如图2所示。 图2.规划和设计阶段的步骤和策略选项 资料来源：CSET。 注意：蓝色方框表示针对故意滥用或科学研究的具体防护措施，而紫色方框表示适用于两种情境的防护措施。 步骤：想法或假设的产生 Both恶意行为者和有良好意图的科学家都是从一个指导后续步骤的想法开始。对于恶意行为者，“想法生成”这一步骤可能是决定首先追求生物武器这样一般性的目标，也可能是选择具体的生物武器类型和目标这样具体的目标。对于研究者，“假设生成” 描述基于先前研究经验、具体科学