吴世忠：迎接人工智能的安全挑战

目录 CONTENTS 02. 03. AI的安全新挑战统筹发展与安全 AI发展到关键期：三岁见大，七岁见老 AI新质生产力：算力+模型+数据+应用 算力即权力模型显智力数据育能力应用为势力 算力成为国力的象征 变形金刚成为大语言模型的母体AI耗尽人类数据的预测 AI应用是大势所趋，人心所向 AI发展是强国建设、民族复兴的战略机遇 互联网+：叠加效应 数据要素✕：乘数效应 每个个体 每个每个 家庭团队 每个每个学科行业 每个 AI*：指数效应国家 网、数、智全面推进，赋能百业千行，造福千家万户 AI焦虑引发全球关注，安全治理成为当务之急 全球安全忧虑安全治理共识安全保障发展 科学家：AI教父杰弗里·辛顿从谷歌辞职 加强AI安全和治理研究 企业家：马斯克公开表示对未来的担忧 强化关键基础设施安全 全球民众：全球大部分民众 （52%）表达了对AI的紧张 全球安全治理“十大热词” 推广AI的向善应用 未来已来，十大难题、亟待求解 开发既实用又安全并赢得公众信任的更有能力和更通用的AI （技术发展和安全问题） 1.解决AI中的科学技术限制及难题 2.解决AI安全、鲁棒性和性能等问题 3.将AI安全与控制等与人类目标对齐 负责任地开发、部署、使用 和竞争AI （社会发展和安全问题） 7.确保社会负责任使用AI 8.解决AI带来的地缘政治风险 利用AI来解决人类最大的挑战并造福所有人 （应用发展和安全问题） 4.让AI赋能人类解决重大的社会挑战 5.解决AI带来的经济挑战和机会 6.确保所有人参与AI的发展治理 谷歌前CEO施密特，1.5亿美元5年计划，资助杰出人才解决 AI2050年碰到的困难问题 让人类和社会系统在AI时代共同演进 （人类发展和安全问题） 9.构建治理体系驾驭AI发展 10.探求AI时代人类生活的终极意义 互联网 数据流 科技智人：HomoTech 安全发展的三个阶段：IT驱动，DT驱动和AI驱动 信息技术（IT）驱动 数据技术（DT）驱动 人工智能（AI）驱动 网络相对固定，规模，边界防护数据价值，流动，内容安全AI呈现智能，效能，自身安全 科技变革巨浪迎面而来，安全风险隐患关乎全球 非对称性 迭代演化性 通用性自主性 21世纪最大困境：颠覆性技术势不可挡，人类不得不因势利导 安全新图景：Security+Safety+Ethics 颠覆性技术与应用 挑战人类的天理人伦 机器智能作为灵动因素，改变了安全的内涵和外延 现有的非传统安全成为传统 未知的新兴安全成为现实 AI已经系统性融入了网络攻防每个环节 AI助力网络防御AI助攻网络攻击 AI系统对抗性威胁景观（ATLAS） AdversarialThreatLandscapeforArtificial-IntelligenceSystem 技术演进失控：出现幻觉，智能失常 出现幻觉智能失常 AI技术涌现性，AI自身“黑盒”缺陷及可能出现的自主性风险 技术伦理问题由来已久，唯有AI挑战惊世骇俗 军备竞赛失控伦理道德失范社会组织失序 AI提出安全保障新要求 个人应用需谨慎 社会推广要安全 国家发展有防控 国际治理应协调 安全和隐私应用和风险 竞争和自主 地缘和合作 需要一个更加安全、坚韧、可信的发展生态 AI新时代要建立辩证安全观、综合治理观和全球共治观 辩证安全观综合治理观全球治理观 发展和治理的辩证关系 科林格里奇困境 安全和发展的辩证关系 安全保发展，发展促安全 中国提出《全球人工智能治理倡议》 2024.03.21，联合国大会通过首个有关人工智能的全球决议草案 不断提升人工智能技术的自主、可控、安全、可靠能力 自主可控安全可靠 基础/“卡脖子”技术要自主 重要行业和应用要可控采用基于风险分级的韧性安全思维 AI应用和服务要可靠 AI时代，安全（safety和security）的韧性生态 系统“中”AI安全 AI助力客户的系统安全韧性 系统“的”AI安全 AI助力服务商提供安全可靠的系统 安全（safety）韧性的“瑞士奶酪”模型 安全（security）韧性的“DevSecOps”模型 韧性=风险承受能力+恢复发展能力+适应变革能力 通过最佳实践，解决伦理问题 AI伦理技术措施AI伦理非技术方法 结语 拥抱AI，注意安全