人工智能与国际安全研究动态第10期：德国人工智能战略 数字化赋能工业变革

2023年第7期（总第10期） 德国人工智能战略:数字化赋能工业变革 德国人工智能战略：数字化赋能工业变革 编者按：为推进人工智能与国际安全领域的相关研究，清华大学战略与安全研究中心（CISS）组织研究团队定期跟踪最新国际研究动态，重点关注人工智能应用对国际安全带来的风险挑战，并针对人工智能安全领域国际动态、智库报告、学术论文等资料进行分析。本文是CISS推出的人工智能与国际安全研究动态第10期，主要聚焦德国人工智能战略、军事应用、治理等领域的发展情况。 随着全球快步迈入数字时代，德国不断加速人工智能战略布局，提出成为全球人工智能技术领先国家的发展目标，并在产业支持、科研创新、人才培养、军工自动化和安全伦理管治等方面加大投入，形成人工智能国际合作的三环体系。本文将聚焦德国人工智能在战略设计、军事应用和安全治理三个层面的发展形势与方向，并简要分析对中国的启示。 一、推动“产业中心、人本主义”的人工智能战略 德国人工智能发展起步较早，曾在20世纪70-90年代掀 起短暂高潮，在经历21世纪初期的短暂停滞后，从2014年开始重新被纳入战略视野并加速发展。2018年，德国出台《联邦政府人工智能战略》，提出到2025年在联邦层面投入30 亿欧元以强化“人工智能德国制造”，并明确3大目标和12 个具体行动领域。[1]2020年德国更新上述战略，并将2025 年前的联邦政府投入扩大到50亿欧元。[2]在此基础上，德国逐步形成以人工智能产业创新为先导、以人权安全和民主自由为基本原则的AI发展格局。 （一）基于“工业4.0”打造AI产业品牌 德国尤为关注人工智能在智能网络制造、智能技术系统和生产自动化等“工业4.0”领域的作用发挥[3]，强调形成“人工智能德国制造”产业品牌。 具体来看，德国积极促进中小企业的人工智能成果转化，致力于加强研发利用间的联通和协作，并提升人工智能企业和行业应用能力。2016年，德国启动“赛博谷”（CyberValley），探索人工智能“研发-创业”联合的新模式。随后，“赛博谷”成为德国人工智能产研合作的示范项目和关键研究基地。[4] 与此同时，德国将推动人工智能知识和技术向中小企业转化置于战略高度，并强调调动人工智能创业活力和促进创业成功。德国设定了实现研究机构与1000家中小企业建立 联系的年度目标，推动旨在支持科研人员创业的EXIST项目资金在2019年翻一番，并推出科技成长基金计划以强化公共资金保障。[5] （二）公私协作提升AI科研创新竞争力 德国基于联邦政府、联邦教育研究部、联邦经济部、德国工程研究院，德国人工智能研究中心、学习系统平台以及中小企业和学术科研机构等的紧密合作，提升德国人工智能科研创新竞争力。 在标准制定方面，德国重视公私协作强化国家和欧盟区域层次的创新网络和集群建设，扩大德国和欧洲制定人工智能标准的话语权。德国政府谋求建设人工智能国家-跨国-欧洲三层级创新网络和集群体系，积极与中小企业、德国标准化学会（DIN）以及商业、科学和标准化组织协作制定和完善人工智能标准。[6] 在人才资源方面，德国关注人工智能专业技术工人和科研创新人才的培养与吸引，在德国全教育体系中普及数字知识和技能。德国制定了《国家技能战略》[7]，提升资格认证的透明度，不断促进专业技术工人的自主发展，同时重视学校教育、高等教育和继续教育中的人工智能知识传授和技能训练。[8] （三）促进AI赋能绿色转型和可持续发展 德国关注绿色转型和数字化转型的双轮并进，利用人工智能加强气候和环境保护行动。在环境保护智能化发展方面，德国利用人工智能促进环境监测、气候治理、资源节约和能源转型提质增效。2019年起，德国联邦环境部设立环境、气候、自然和资源领域的“人工智能灯塔项目”，并于2021年 额外投资1.5亿欧元支持环境和气候保护中的人工智能研发和利用。[9] 在人工智能绿色转型方面，德国致力于营造普惠性的人工智能生态环境以促进公民了解绿色人工智能技术。绿色人工智能技术的创新发展要求促进算力和算法低碳减排，德国通过建立“公民绿色技术实验室”[10]提升社会对绿色人工智能技术的接纳度，进而营造良好的人工智能绿色转型环境。 （四）重视“以人为本、信息自主”的AI伦理治理 德国主张人工智能开发和应用要以人为本，坚持多元人文视角，确保人工智能有利于安全、民主、自由和可持续发展。[11] 在技术规则上，德国关注人工智能算法公正性、可靠性以及搜集、使用和传输中的数据安全。德国要求人工智能开发和应用遵循德国价值规范并有利于个人和社会信息化能力提升，提出联邦数据使用、共享和监管适应《通用数据保 护条例》（GDPR）和个人数据保护相关法规的要求，加强人工智能算法的可追溯性和透明度。[12] 在社会责任上，德国强调人工智能应坚持非歧视原则以保护多元文化和促进个人自由。德国人工智能的开发和利用不仅要防止一切基于身份符号的歧视，还特别强调对残障人士和女性的政策倾斜以及保护[13]，并认为人工智能不得干涉言论、媒体、艺术和文化的多样化发展。 （五）面临路径依赖和执行力的多元挑战 政府机构设置不足和协同程度有限、技术创新主体微小和布局分散化、以及较高数据隐私限制和安全质量要求，威胁德国人工智能战略的有效推进。 首先，德国联邦各部以及联邦和各州间的职权重叠降低人工智能战略和政策执行效率。德国人工智能战略和政策推进缺乏统一的人工智能部门机构协调，一定程度上限制了德国人工智能顶层设计与政策落实之间发展。 其次，德国产业发展对中小企业主体作用的单一依赖阻碍人工智能规模市场效益发挥。德国技术创新和应用依赖于中小企业，其人工智能产业一方面因中小企业资金有限而难以发挥规模市场效应，另一方面因大型人工智能科技平台公司不足而在技术和数据平台发展上处于劣势。 最后，德国对数据隐私保护和安全监管的高要求限制人 工智能自由发展空间。受历史因素影响，德国一直极为强调隐私保护和数据安全，明确要求人工智能只能以高质量数据为信息来源，并为搜集和使用数据设置高于他国的严格限制，不利于人工智能的加速发展。 二、引领国防工业数字化的人工智能军事应用 2018年11月，德国联邦政府颁布《联邦政府人工智能战略》，指出“基于人工智能技术和系统的使用将对武装部队产生影响，人工智能在军事领域的应用将是联邦国防军未来需要考虑的重要问题。”德国在人工智能军事领域的应用表现出两个特征：一是联邦政府与企业合作双赢，二是反复强调军工数字化和自动化。 （一）应用特色：世界前列，却非国内优先领域？ 德国在军事领域的人工智能发展方面已经具备了一定基础，在德国国防部五大系统中建立起人工智能系统，包括目标识别、威胁监控和态势感知、战斗模拟和训练、人工智能和数据信息处理和后勤管理系统。 1.利用人工智能技术，提升指挥控制效能 在目标识别方面，武装部队未来的作战行动将向远距射程目标发展，缩短部队交接距离，扩大侦查覆盖范围，提高动态指挥能力。高效能的人工智能技术将在动态的战斗中提 高指挥、控制和行动的速度、目的和成效。这些系统在执行任务时会自动检测周围环境，并利用传感器数据分析作战情况。[14] 2.利用大数据分析技术，收集战场情报数据 在情报支持方面，人工智能应用程序提供了解决信息超载问题的手段，提高了军事决策过程的性能和速度。利用人工智能技术提高操作分析能力可在质量或数量上获得信息优势，在战略和运营层面更快地交付关键成果并实现活动目标。2017年4月，联邦国防军协调了武装部队现有的C2信息系统，使其适应服务导向，旨在加强和进一步发展网络和信息空间的侦察和打击能力。 3.利用深度强化学习技术，加强智能化武器装备 在军事战术领域，德国人工智能技术主要用于支持飞行作战准确定位。为此，德国亨索尔特公司开发基于人工智能决策的模拟防御系统，旨在使用合成模拟环境，以最快的作战速度支持战术层面的军事行动，使得人工智能可在复杂任务中支持无人机群的传感器效应器网络，压制敌方防空系统，优化防御系统各个组件之间的交互作用。[15] 然而，2020年，德国联邦政府发布的一份临时报告宣布了自2018年推出《联邦政府人工智能战略》以来的人工智能进展，却没有提到任何军事人工智能的发展。 （二）全球人工智能军备竞赛：德国技术现代化战略 德国联邦国防军的人工智能可以展示其技术优势，并优化和加速联邦国防军的流程，不仅包括后勤、预测性维护、作战服务支持和作战指挥与控制，还包括对大型数据库的分析，以便在早期阶段发现正发展的危机。[16] 1.维持AI领域竞争力：智能决策支持 为了实现未来武器系统的快速更新换代，德国政府在2018年5月宣布通过“工业4.0”，推动国防工业数字化转型，计划到2025年将其数字化和自动化程度提升到60%。德国政府发布的《德国数字化转型战略》，强调结合政府和企业的力量，提高数字化技术在国防工业中的应用，推动军事数字化技术的发展。 2.保持全球领先地位：人工智能驱动的安全技术系统 德军已经大批量装备具有智能化信息感知与处理能力的数字化系统，德国空军的“台风”战斗机已成功实现与遥控载具的互联互通，可同时领受和执行作战任务。同时，法国、德国和西班牙联合发起未来作战空中系统(FutureCombatAirSystem,FCAS),旨在推动“有人驾驶战斗机之间的团队合作”成为可能。 3.行业环境良好：全面禁止完全自主的致命武器系统 就德国国内而言，德国联邦政府一再强调德国军方无意 获取自主武器。德国积极参与在日内瓦举行的联合国《常规武器公约》军控谈判，主要目标是推动全球范围内禁止完全自主的致命武器系统。[17] 三、发展以规则和伦理为基础的人工智能安全治理 德国人工智能的安全治理将保护人权置于核心位置，注重人工智能的伦理及其标准化，强调人工智能的社会责任，并通过加强国际合作实现本国在人工智能全球竞争中的优势地位。 （一）以信息自决为核心的法律及伦理框架 “以人为核心”是德国发展人工智能的核心理念，该理念贯穿德国人工智能治理的始终。1983年德国联邦宪法法院提出保障信息知情基本权利，促使“信息自决”理念成为德国人工智能领域立法的基础。 1.注重对人权的保护 德国将对人权的保护作为发展人工智能的前提。一是德国关注保护个人隐私与尊严，要求AI确保对个人信息的精确搜集。二是德国要求人工智能须保障人的健康权和发展权，应确保应用人工智能系统维持高水平安全，保障劳动者发挥技能和自主权。三是人工智能治理应考虑非歧视性原则。人工智能应用应考虑残障人士的特殊需求[18]，同时重视女性 参与，为女性在AI领域的职业发展提供空间。[19] 2.有效统筹数据的开放与保护 统筹数据开放与保护是德国人工智能治理的两大基本点。一方面，德国依法保护人工智能运用所产生的数据。2019年4月，联邦政府和各州独立数据保护监管机构会议发布《哈姆巴赫宣言》，列出在人工智能背景下应坚持的七项数据保护基本原则[20]。另一方面，德国注重数据共享的规范化，颁布《开放数据法》《电子政务法》等法律，搭建数据信息平台，有序扩大政务数据公开，促进数字经济发展。 3.坚持人工智能开发的社会责任导向 人工智能应为文化和媒体自由的发展提供必要的空间。AI可以为艺术和文化交流提供新的途径。人工智能应符合可持续发展原则。德国将强化人工智能高技术人才培养。德国在着力培养高精尖AI技术人才的同时，培训普通公民与日常生活相关的人工智能技能。[21] 4.坚持创新和严格的标准制定程序 德国鼓励小微企业与初创企业参与标准制定。[22]德国还不断完善人工智能的测试程序。德国正推进“可信的人工智能”国家实施方案，通过该程序测试AI系统的可靠性、安全性等特性。[23]德国要求实现人工智能伦理的标准化，确保人工智能的发展不会危及个人的基本权利或民主价值 观。[24] （二）人工智能领域“分层次”的国际合作 德国将国际合作置于人工智能发展的重要位置，而争取人工智能领域的主导地位是德国参与国际合作的主要着眼点。