AI+智慧城市安全解决方案白皮书

目录 1.前言1 2.AI+智慧城市安全背景概述2 2.1.AI+智慧城市发展现状2 2.2.AI+智慧城市安全发展现状4 2.2.1.智慧城市AI技术风险防范紧迫性6 2.2.2.AI赋能智慧城市安全保障必要性7 3.AI+智慧城市安全风险与需求8 3.1.AI技术在智慧城市应用风险8 3.1.1.智慧城市模型算法风险8 3.1.2.智慧城市数据要素风险10 3.1.3.智慧城市AI服务风险11 3.1.4.智慧城市AI平台风险12 3.1.5.智慧城市AI运营风险13 3.2.智慧城市安全技术问题及AI赋能需求14 3.2.1.智慧城市网络安全需求14 3.2.2.智慧城市数据安全需求15 3.2.3.智慧城市应用安全需求17 3.2.4.智慧城市公共安全需求18 4.中国移动AI+智慧城市安全体系架构19 4.1.总体目标19 4.2.智慧城市AI风险防范20 4.3.AI赋能智慧城市安全20 4.4.智慧城市安全基本原则21 5.智慧城市AI风险防范方案22 5.1.智慧城市AI模型算法安全22 5.1.1.维护城市模型公平透明22 5.1.2.提升城市模型可解释性22 5.1.3.保证城市模型合法合规22 5.1.4.增加城市模型加密混淆23 5.2.智慧城市AI数据要素安全23 5.2.1.智慧城市数据采集安全23 5.2.2.智慧城市训练数据配置24 5.2.3.智慧城市数据防范投毒24 5.2.4.智慧城市数据泄露防范25 5.3.智慧城市AI业务服务安全25 5.3.1.城市服务内容生成监控25 5.3.2.城市服务伪造内容识别26 5.3.3.智慧城市服务调用安全26 5.4.智慧城市AI平台能力安全27 5.4.1.智慧城市算力防范滥用27 5.4.2.智慧城市供应链安全性27 5.5.智慧城市AI运营合规安全28 5.5.1.法律遵从建设28 5.5.2.运营管理建设30 5.5.3.评价指标34 6.AI赋能智慧城市安全方案36 6.1.AI+智慧城市网络安全36 6.1.1.下一代防火墙36 6.1.2.全流量威胁检测36 6.1.3.智能路由与负载均衡37 6.1.4.安全智能问答37 6.1.5.威胁情报分析37 6.1.6.自动化渗透测试38 6.2.AI+智慧城市应用安全38 6.2.1.风险控制38 6.2.2.拟态蜜罐39 6.2.3.内容安全治理39 6.2.4.供应链安全智能分析40 6.2.5.API安全智能监测40 6.2.6.恶意代码检测40 6.2.7.用户和实体行为分析41 6.3.AI+智慧城市数据安全41 6.3.1.AI数据水印41 6.3.2.AI数据分类分级41 6.3.3.AI数据安全审计42 6.3.4.AI数据安全合规工具42 6.3.5.AI数据脱敏42 6.4.AI+智慧城市公共安全43 6.4.1.社会治理安全方案43 6.4.2.灾情监测预警方案44 6.4.3.公共卫生安全方案44 6.4.4.安全生产管理方案44 7.中国移动智慧城市人工智能安全参考案例45 7.1.智慧城市AI风险防范案例45 7.1.1.黑龙江省级海算政务大模型安全防护45 7.1.2.中国移动AI模型漏洞评估平台48 7.2.AI赋能智慧城市安全案例53 7.2.1.中山市政务信息化安全系统建设和运营案例53 7.2.2.启明星辰安星智能安全助手运营案例55 8.中国移动AI+智慧城市安全展望60 8.1.AI让智慧城市更安全60 8.1.1.完善法律法规和安全标准体系60 8.1.2.推进技术发展，加强自主可控60 8.2.AI让城市安全更智慧61 8.2.1.强化运营管理水平，培养队伍61 8.2.2.完善AI安全体系与治理61 发布单位：中国移动通信集团有限公司 编制单位：中国移动通信集团有限公司信息安全管理与运行中心中移雄安信息通信科技有限公司 中移（上海）信息通信科技有限公司 《中国信息安全》杂志社 北京启明星辰信息安全技术有限公司卓望数码技术（深圳）有限公司 成都思维世纪科技有限公司上海嘉韦思信息技术有限公司 参编人员：王昀、袁捷、冯国华、张峰、江为强、曹雪峰、黄静、孙海涛、李子晔、王光涛、路骁虎、安宝宇、邱勤、董航、袁胜、位华、姚飞、闫少维、于朝翔、郭中元、谷田田、赵威、唐双林、周涛、李刚、刘乐、陈文博、黄琴、章明珠、舒首衡、钟志成、刘超、李卓、何升文、钟立、郗上才、尹咸阳、李峻天、周天翔、曾礼、李照雷、赵广义、光国庆 1.前言 智慧城市是推动城市治理体系和治理能力现代化建设的重要抓手。“十四五”期间国家对数字经济和智慧城市发展进行了专项规划，智慧城市作为数字经济的重要应用场景，其数据巨大价值和重要意义得到强调和凸显。 当前智慧城市在人工智能技术领域处于起步阶段，在高速发展的同时，智慧城市面临着来自网络、数据、应用层面的安全风险，以及智慧城市人工智能本身引入的安全新风险。智慧城市人工智能安全关系到个人、组织、社会公共利益甚至国家利益，不能疏忽。面对AI人工智能的安全形势，随着2023年国家网信办《生成式人工智能服务管理暂行办法》的发布，人工智能安全工作具有了可以执行的管理办法，意味着智慧城市中相关技术、业务有了系统化、持续化的发展环境。 为了帮助智慧城市运营管理者如各级政府或组织应对以上众多人工智能安全方面的难题和挑战，实现数字经济的长期健康发展。本白皮书梳理智慧城市AI人工智能安全需求，提出AI+智慧城市安全体系架构，通过智慧城市AI风险防范和AI赋能智慧城市安全两大方案解决城市各层面风险，并以黑龙江省级、中山智慧城市等综合系统举例，阐述其人工智能安全方案落地具体场景。展望未来城市发展，白皮书提出了智慧城市人工智能安全发展建议，期望为进一步推广、普及和完善AI+智慧城市的理念、方法、体系与应用贡献力量。 2.AI+智慧城市安全背景概述 2.1.AI+智慧城市发展现状 国家“十四五”规划明确指出：“加强数字社会、数字政府建设，提升城市服务、社会治理等数字化智能化水平。”在此背景下，各地政府积极推进智慧城市建设，将其列为重要的发展战略，加大投入力度，政府的支持和引导对于智慧城市建设的发展起到了关键的作用。当前，智慧城市建设正处于快速发展阶段，依赖于信息技术和通信技术的支持，人工智能、大数据、云计算等新兴技术的应用为智慧城市提供了更多可能性。根据IDC今年发布的《中国智慧城市市场预测，2023-2027》数据，2023年，中国智慧城市ICT市场投资规模超过8700亿元人民币，预计到2027年将超过1.1万亿元。 2024年《政府工作报告》提出，加快发展新质生产力，开展“人工智能+”行动。以大模型、大算力、大数据为基础的人工智能正逐步成为城市治理数字化、科学化、先进化的新动能和新范式。不仅为城市管理带来了高效、智能的解决方案，同时也给居民的生活带来了更好的体验。当前各级政府在国家政策指引下积极探索城市治理新模式，将AI能力融入智慧城市建设中。IOC、视频云人体检测、火情监测、智慧运维、智能问答机器人、智慧交通等智慧城市应用场景建设工作不断完善，促进城市治理、民生服务等服务场景智能化提升。 图1中国智慧城市市场预测 通信行业积极支撑国家推动AI+智慧城市战略，中国移动作为全球领先的通信和信息服务提供商，其在人工智能与智慧城市的发展战略方面有着清晰的规划和目标。 2023年，中国移动发布《中国移动新型智慧城市白皮书》，白皮书中重点强调了通过人工智能、大数据等技术，打造新型智慧城市。中国移动贯彻党和国家数字发展战略，围绕网络强国、数字中国、智慧社会部署，不断践行“力量大厦”发展部署，明确了智慧城市作为我国城镇化发展和实现城市可持续化发展方案的战略地位，公司着力打造智慧中台开放模式，将能力汇聚，在智慧城市中基于业务场景持续打磨基础通信、人工智能、区块链、安全认证等优质技术能力。 2024年《中国移动人工智能安全白皮书》指出，中国移动始终把人工智能作为公司战略发展方向，发挥运营商特色优势，打造全面的人工智能产品体系，充分发挥中国移动在网、算、运营等方面的资源和能力优势，形成涵盖智算力、高质量数据集、人工智能平台、各领域算法能力、大模型、智能 化应用的全栈新型智能化服务能力，达业界先进水平。中国移动将加快人工智能融入智慧城市中，推进“AI+”产业发展，培育新质生产力。 在《国务院关于进一步优化政务服务提升行政效能推动“高效办成一件事”的指导意见》中，明确要求探索应用自然语言大模型等技术，提升线上智能客服的意图识别和精准回答能力，优化智能问答、智能搜索、智能导办等服务，更好引导企业和群众高效便利办事。2022年以来，中国移动基于智慧城市领域的丰富建设经验，以通用大模型为基础，融合政务领域数据开展精调，引入政务领域约束模型对输出进行限制，打造了面向政务领域的行业大模型—九天·海算政务大模型。以政务大模型为技术底座，构建“平台+算法+应用”体系，实现了对黑龙江省政务工作的整体提升和跨越式发展。聚焦一网通办、一网统管、一网协同三个典型应用场景，打造智能客服、龙政智搜、数字人、公文写作等具体应用，提供政务领域的智能处理优化、智能内容生成等服务，助力黑龙江省政府更加高效地履行职责，切实提升群众的满意度和信任度。 图2九天·海算政务大模型应用实践 2.2.AI+智慧城市安全发展现状 新型智慧城市是推动城市治理体系和治理能力现代化、提升城市居民幸福感和满意度的新理念和新路径，也是网络强国建设和数字经济发展的重要 载体。随着AI技术的不断发展和在智慧城市智领域广泛的应用，人们享受技术红利的同时，也面临着日益突出、复杂多变的网络安全风险，规模性隐私数据泄露、关键信息基础设施遭受网络攻击等安全事件屡见不鲜。 当前，AI+智慧城市安全发展有如下两点现状，一方面是智慧城市引入大量AI技术，各项便民技术正在深度改造城市的运营和管理方式。然而，伴随着便利性和效率的提升，城市管理者大多没有关注AI自身的安全性：如何处理数据安全、隐私保护以及算法透明度等问题，正成为当前我们面临的重要挑战。另一方面从智慧城市的网络攻击防护视角来看，面对新场景、新特征、新需求，深层漏洞和未知威胁越来越多，尤其是网络安全环境更加趋于复杂化、交织化和自动化，需要结合AI加强智能化监测预警和主动化安全防护的联动，阵线前移和协同联动的主动防御显得尤为重要。 当今国内外安全大小模型迅猛发展，国际市场出现包括思科安全人工智能助手、ElasticAIAssistantforSecurity、GoogleCloudSecurityAIWorkbench、MicrosoftSecurityCopilot等产品，国内厂商包括360、安恒、金睛云华、华为、绿盟、奇安信、启明星辰、深信服、天融信等均也提出了安全大模型或小模型。然而各家厂商几乎没有针对智慧城市安全特点的训练集，用AI赋能智慧城市安全尚处于起步阶段。 360安全集团在2024年一季度末发布安全大模型3.0，包括语言、规划、判别、道德和记忆五个中枢，据悉采用360安全大模型能实现MTTR缩短一半、人均工作效率30%的提升。 华为在HSA2024会议上发布L4级AI安全智能体（网络安全高度自主防御）。华为具备全栈大模型能力，包括从AI芯片（昇腾系列），CANN计 算架构，MindSpore深度学习框架，MindStudio开发工具到智算训练网络以及盘古通用大模型，目前实现自动处置90%以上的安全事件，极大降低人工工作量，提升网络安全运维效率。 中国移动与启明星辰在2024MWC会议上联合发布九天•泰合安全大模型，该模型依托于中国移动九天基座大模型的强大计算能力和广泛数据处理优势，深度融合启明星辰安全行业特有的海量数据资源，包括但不限于威胁情报、漏洞数据库、专业安全知识及最新安全研究成果等。针对不同的智慧城市应用场景，再训练出如医疗类数据识别、政务数据脱敏等多个小模型。 2.2.1.智慧城市AI技术风险防范紧迫性 随着