全球人工智能安全与治理体系研究
当前，人工智能技术发展迅速，其广泛应用带来了显著机遇，但也引发了跨领域、多层次的系统性治理挑战，加剧了全球治理格局的碎片化与制度脆弱性。构建完善的全球人工智能安全与治理体系，已成为关乎人工智能可持续发展的重要课题。
全球人工智能发展应用亟须应对安全与治理风险。人工智能技术内生风险包括算法可解释性不足、鲁棒性薄弱与对抗性脆弱等安全隐患，应用层面则存在算力安全、供应链脆弱性与跨境技术流动等问题。近年来，人工智能相关的恶意利用与网络攻击呈明显上升态势，例如欧盟网络安全局记录了11079起攻击事件，其中322起为针对欧盟的跨境攻击。生成式人工智能驱动的深度伪造行为在2024年同比增长118%，预计2025年全球相关网络犯罪造成的经济损失将高达10.5万亿美元。
各方正通过多层次、多方向的努力，共同推进全球人工智能安全与治理体系的构建进程。联合国系统通过成立咨询机构、召开会议、发布报告、通过联大决议等方式，积极构建全球性的人工智能治理框架。各国通过发布战略文件与行动倡议，积极构建治理框架。区域层面，欧洲地区率先建立了较为完善的规则和法律体系，例如欧盟颁布实施《人工智能法案》，建成全球首部全面监管人工智能的法律框架。各重要国际峰会通过确立原则与构建机制，围绕各个议题凝聚全球共识，例如人工智能安全峰会、人工智能首尔峰会、人工智能行动峰会系列会议等。
全球人工智能安全与治理体系应解决的关键问题：如何有效应对人工智能快速发展带来的技术安全风险及其衍生风险的不确定性，如何平衡当前不同国家在发展阶段、制度文化、治理能力及治理诉求方面的差异，如何协调人工智能多利益攸关方之间的复杂互动，如何克服地缘政治与意识形态等障碍分歧。
其他领域全球性多边治理体系的经验借鉴：在核安全、气候变化、国际贸易、公共卫生等关乎人类整体安全、跨境协作与风险应对的关键领域，国际社会已通过缔结多边协定、设立专门机构、构建争端解决机制等路径，逐步建立起各领域的全球治理体系。这些实践为进一步构建和完善人工智能的全球安全与治理体系提供了重要的机制参照与经验借鉴。
确保安全：应对人工智能技术快速迭代与不确定性风险，以及人工智能广泛社会应用与滥用恶用风险。需要建立技术跟踪与风险预警的协同机制，建立治理规则的动态更新与互认机制，建立跨境内容治理协同体系，完善跨境执法协作机制，形成协同应对人工智能技术失控风险的共识，建立全球广泛参与的前沿人工智能模型监测与能力评估机制，构建面向关键资源的国际治理体系，设立紧急干预与联合响应机制。
确保包容：兼顾各国人工智能发展与治理诉求。全球人工智能发展水平呈现出显著的结构性不平衡，资源、能力与制度优势高度集中于少数发达经济体和大型科技企业。为实现包容性治理，国际社会需在尊重多样性与促进共同利益之间寻求平衡。重点从构建开放包容的多边协商平台，建立可控、安全的技术共享与转让多边机制，创新融资模式，健全系统化、长效化的能力建设合作机制等方面着力。
明晰权责：推动多利益攸关方协调有力的行动。人工智能技术自身的开放性及其跨领域应用的特性，决定了多利益攸关方的广泛参与是其治理的必要条件。各国政府、国际组织、企业、科研机构和社会公众在职责专长、资源禀赋与价值取向方面既各具差异，又彼此互补。需明晰各利益攸关方的角色定位与责任边界，构建有效的多利益攸关方协同与落实机制，包括建立强有力的履约审查与监督机制，建立完善高效的风险监测与信息共享机制，设立高效、权威的跨国争端调解与仲裁程序，积极推进国际标准互认与规则对接。
面向未来：践行多边主义共建人类命运共同体。国际社会应以联合国为核心，持续凝聚共识、汇聚资源，坚持主权平等、国际法治和多边主义原则，秉持以人为本、包容合作、注重实效的价值导向，共同构建兼顾安全、发展、公平与包容的全球治理新体系，在机遇与挑战并存的时代，共同开创普惠、共享、可持续的智能化未来。
