（1229）赛迪译丛：《国防人工智能战略》

2022!12"29#$59%&$578% 国防人工智能战略 I"#$%2022年6月，英国国防部发布《国防人工智能战略》。该战略立足于应对不断变化的全球安全威胁，详细地论述了人工智能在加强国防安全和军事现代化领域的地位作用以及英国国防军事领域实现人工智能战略的实施途径和战略愿景，提出要优先利用人工智能技术，通过新概念和颠覆性技术提升武器装备智能化水平，提高作战能力。该战略旨在通过人工智能军事化技术，提升国防战略优势，推动英国国防人工智能生态系统建设。赛迪智库军民融合研究所对报告进行了编译，期望对我国有关部门有所帮助。 I&'(%)*+,-./012 '()*+,-. 英国国防部发布的《综合审查（2021年）》强调，到2030年英国实现“科技超级大国”的核心条件之一是重点部署人工智能领域发展。《国家人工智能战略》（2021年）指出，人工智能拥有重塑整个行业规则、推动经济大幅增长并改变社会多领域的巨大潜力。此外，英国国防部发布的《综合作战概念》（2020年）也提出，信息和技术的快速变革对战争产生了巨大影响，军事作战中的冲突越来越复杂和多变。新技术产生了大量的数据，带来了新的威胁和脆弱性，并通过先进的下一代能力（如无人机、高速武器和先进的网络攻击）扩大了潜在攻击的规模。人工智能的国防应用从企业或商业空间（即“后台”）延伸到前线：提高业务流程和支持功能的速度和效率；提高决策质量和作战效率；提高网络的安全性和弹性；提升军队的质量、持久性、战斗范围和有效性；通过将“枯燥和危险”任务实现自动化来保护民众。 因此，国防领域正在发生彻底的变化，与人工智能相关的战略竞争持续加剧，必须采取快速、雄心勃勃和全面的应对行动。本战略阐述了针对人工智能带来的机遇和颠覆性影响制订的全面应对措施英国将如何应对这一重大战略挑战并强调国防部应高度重视并推动英国国防转型，确保在未来的冲突中，采用人工智能解决方案，提升作战能力。 /(0123 英国国防部人工智战略的目标是有效利用人工智能,将其转变为“为人工智能就绪的”组织，加强英国的国防和安全人工智能生态系统，并将英国打造成世界上最高效/可信和最具影响力的国防组织,最终塑造塑造全球人工智能发展格局。 4(5678019:;<= 一是国防部需要转变为“为人工智能准备就绪的”有效组织。 国防部必须迅速从工业时代的联合部队过渡到信息时代的综合部队，以确保在日益复杂和动态的威胁环境中领先于对手。系统地应用人工智能技术将是实现这一目标的重要因素。具体措施包括： （一）推动文化、技能和政策改革，提升人员技能，加强国防人工智能和自主部门的组织能力。 全球的人工智能人才市场竞争相当激烈，如果不采取迅速果 断的行动，国防部将面临技能人才严重不足的风险。国家人工智能战略列出了政府的若干干预措施，提出吸引和培训优秀的人工智能技术人才的措施，允许全球人工智能人才有更大灵活性和流动性，确保国防部始终处于人工智能发展和部署的最前沿。 （二）制定高效的政策和立法流程 国防部《2020年科技战略》强调了“制定预测性政策”的重要性，并要求确保政策、程序和立法流程的高效和顺畅。组建一支多学科的“人工智能作战”特别工作组，集中精力解决影响国家或联盟军事行动和关键情报活动的人工智能政策问题。 （三）数字、数据和技术推动因素 人工智能的优势取决于我们是否有能力在必要时提供强大的算法和可信的数据，且不受地域、平台或组织界限限制。利用可靠可信的数据和技术是国防人工智能的关键。 1、利用可信赖和连贯的数据 数据是重要的战略资产，国防部正在加紧数据转型，公开发布的《国防数字战略》和《国防数据战略》阐述了转型的具体措施包括打破数字孤岛；建立共同的数据架构、标准和开发平台（包括建立可操作的人工智能分析环境）；推动整个国防企业获取可靠扎实的数据。在这些措施的基础上，本战略的重点是利用好数据。 2、确保快速安全的计算能力、网络和硬件 快速、可扩展的计算能力和安全的网络基础设施对于国防领域人工智能技术的应用至关重要。它能使数据在传感器、效应器和决策者之间无障碍流动，从而在作战领域发挥军事优势，并提高商业领域的效率。《国防数字战略》提出通过打造人员、流程、 数据和技术融合的“数字骨干网络”来实现这一目标。由于人工智能的操作使用经常依赖于敏感数据，必须快速并大规模地开发和部署最新软件和算法，加强与产业界合作开发和采用下一代硬件。 3、国防人工智能中心（DAIC） 除了数字骨干网，英国正在建立数字工场，整合并利用现有资产来提高创新软件的密集型功能。DAIC是该工场的关键部分，汇集了国防数字局、国防科技实验室和国防装备与支持未来能力小组的专业知识，它将作为交付人工智能、数据分析、机器人技术、自动化和其他尖端能力的关键下一步并于2022年4月实现初步运营能力，有望促进和协调人工智能项目的快速发展、交付和扩展，以实现战略优势的突破。 通过数字工场，DAIC将制定指导国防人工智能技术战略和人工智能从业人员手册，包括针对不同的国防操作环境制定适当的标准和风险保证框架，以及为测试、评估、验证和确认（TEV&V）方法和技术保护措施提供基础。 4、技术保证、认证和治理 与传统的物理和软件能力相比，人工智能系统带来全新的测试和认证挑战。因此国防部、DAIC、国防设备与支持部及国防安全局将建立全面的框架，用于测试、认证和监管人工智能系统， 确保国防部的治理方法与国家人工智能技术框架紧密结合，鼓励创新和投资，加强与全球伙伴的密切合作，在国际上促进负责任的人工智能发展。 二是快速大规模采用和利用人工智能以获得国防优势 国家将全面利用人工智能，增加相关技术研究投入，加快成果迭代。具体措施包括： （一）将人工智能视为能力战略和部队发展过程中战略优势的关键来源。国防部将制定完整的人工智能政策和战略，确定能力目标/基准，指导关键的人工智能项目并优先采用私营部门的成 熟技术。同时，投资新兴技术和增加作战优势的“未来的人工智能”。 （二）加快步伐，促进创新和实验。国防部基于对“现有人 工智能”和“未来人工智能”的分析，提出在实践中学习，采用新方法进行敏捷和快速的能力开发和交付；确保人工智能技术应用的安全、负责和道德性。 （三）建立“联合作战中心”，应对作战挑战。该中心最初 将作为虚拟的联合生态系统，以DAIC和联合部队网络小组为基础，由科技、情报、其他战争中心（海军、陆军、空军和太空）提供协助，并与国家网络安全中心和国家网络部队实现连通。 （四）全政府共同努力 未来十年，需要整个社会和政府共同努力实现国防人工智能的雄心和计划。努力寻找机会，与情报机构和相关部门分享信息和合作，支持跨部门倡议。 （🖂）加强国际合作 我们将分享有效信息和最佳实践，开发应对挑战的创新能力解决方案，倡导采用共同的标准和原则并促进互操作性，确保英国的人工智能的影响力。 三是支持英国国防和安全人工智能生态系统建设 作为真正的研究和创新强国和数字产业，在金融技术、生物技术、数字营销和广告及安全方面具有特殊优势。全国范围内已经形成强大的技术集群，包括“金三角”（牛津、剑桥、伦敦）、加的夫、贝尔法斯特、爱丁堡和曼彻斯特。英国研究型大学的人工智能研究出版物的引用量排名位居世界第三。此外健全的法律体系、完善的监管方法和政府机构进一步巩固了其作为全球人工智能领导者的地位。国防部必须利用所有这些优势来实现本战略中提出的雄心目标，支持和推动英国国防和安全人工智能生态系统。具体措施包括：（1）通过英国工业和学术人工智能的雄厚基础、政府的支持建立信心；（2）人工智能生态系统作为战略资产， 要消除其行业壁垒，打造更加活力和一体化的合作关系；（3）推动中小企业发展，支持其业务增长并最大限度地利用国防人工智能相关知识产权促进技术商业化。 四是塑造全球人工智能发展方向，促进安全稳定并推行民主 价值观。具体措施包括： （一）根据英国的目标和价值观塑造全球人工智能的发展方 向 1、促进安全和负责任的军事开发和使用 国际人道主义法为规范武器开发和使用提供了强有力的框架。 英国将与盟友和合作伙伴密切合作，建立共识，为实现在全球范围内安全、负责任和有道德地使用这些技术的共同愿景而努力，并推动国际人道主义法律的实施。英国将继续积极参与美国领导的人工智能防御伙伴关系并与联合国、其他国家、民间社会、产业界和学术界合作，推动和促进在武器系统中使用人工智能的最佳实践。 2、引领人工智能技术的全球发展 利用规范和监管框架来塑造市场、促进稳定并减少对手利用技术对英国造成威胁。因此，要发挥英国监管外交的关键作用，贡献我们在网络监管等相关领域的科技专长和经验，确保英国的人工智能研发方法领先，推进人工智能的开放和民主使用，特别 是值得信赖和可解释的人工智能。通过与产业界和学术界合作， 探索塑造人工智能竞争格局从而使我们的价值观具有优势。 （二）促进安全和稳定 像任何重要的技术或能力一样，人工智能有可能破坏国家之间或特定地区的权力平衡。因此要努力促进安全与稳定，确保英国的技术进步得到适当保护，同时将军事人工智能使用风险降至最低。 1、反扩散和军备控制 加强与盟友和伙伴合作，有效规避人工智能扩散带来的破坏稳定的潜在负面影响。我们必须在新技术利用和管控之间达到平衡，加强行动，适应新要求，以限制“军事级”人工智能应用的获得。必要时，我们将通过现有的不扩散、裁军和出口管制制度、条约和组织来确保在新技术使用和管控之间取得平衡。具体措施有：（1）密切监测技术趋势，为两用技术或人工智能:可能加剧现有的反扩散和军备控制挑战的风险做好准备；（2）对数据的流动进行适当的控制；（3）与国际伙伴合作，制定防止人工智能滥用的政策。 2、保护关键技术 英国的人工智能生态系统是由开放的知识、信息和数据流推动的，特别是在学术研究环境中。这种开放性鼓励国内和国外投 资的健康涌入，是一个巨大的优势，有助于把科学和技术理念转化为世界级的产品、解决方案和服务。然而，《综合审查》强调，英国的开放性正被对手用来获取军事和经济利益，涉及的领域很广泛，包括学术干扰、对敏感研究领域的渗透、对关键战略技术公司的收购或控制、无形技术转让和扩散的风险、知识产权窃取、篡改等。 有效的技术保护对于确保未来的军事优势、保护英国的知识产权以及履行我们防止军事和两用物品、软件和技术扩散的义务至关重要。因此，提出以下建议：（1）加深对英国人工智能的优势和劣势的理解和分析，确定：（a）获取确保领土安全的关键组件技术；（b）优先考虑与盟友合作的关键组件技术；（2）推广后带来最小安全风险的关键组件技术；（3）在国家利益需要的情况下，有选择地进行干预，以确保具有战略意义的英国公司得到支持和保护；（4）谨慎和有针对性的方式部署我们所掌握的技术保护杠杆，包括《国家安全和投资法》规定的权力、学术技术批准计划内的检查以及出口管制制度内的规定。 3、建立信心并将风险降至最低 可以预测，在真实或虚拟的军事战场上将会有越来越多的人工智能因素参与进来，但他们可能很难与更多的常规部队区分开来，可能是人为的，也可能是各种系统相互作用的后果，或者是 网络攻击或其他势力操纵的结果。因此必须采取适当的措施，限制由此引起的误解、误判或暴力升级。我们将与盟友和合作伙伴沟通这些问题，并制定行为准则和其他措施建议，以减少意外交战、附带损害和误判的风险。还将在国际上分享关于如何进行技术、经济和环境评估以及武器审查的最佳做法，大力倡导安全和负责任地使用人工智能。 （三）制定未来的安全政策 人工智能技术正在迅速发展，相关的安全风险和问题也随之而来。必须从更广泛的角度看待影响和威胁，考虑可能出现的极端甚至是存在的风险，并确保采取有效手段遏制风险。充分了解人工智能趋势如何与经济、人口、政治、社会、外交等战略力量等因素交织，以及人工智能如何推动重要动态变化，产生新威胁或以其他方式破坏全球安全。虚假信息的自动生产和“深度伪造”的使用可能会极大地破坏公众对英国行动的支持，甚至会压倒和导致关键国家