金融数据中心人工智能算力建设指引

北京金融科技产业联盟2023年8月 版权声明 本白皮书版权属于北京金融科技产业联盟，并受法律保护。转载、编摘或利用其他方式使用本白皮书文字或观点的，应注明来源。违反上述声明者，将被追究相关法律责任。 编制委员会 编委会成员： 王长江聂丽琴张海燕 编写组成员： 赵春华王妍娟葛金磊张浩然吴仲阳宋虎余学山白阳符海芳李书建黄志鹏徐旭陆碧波薛亮谭翔马庆杰李洁郭亮王月吴刚郭江波吴战立雷昭燕袁智王伟锋李培彭晋李俊奎杨海悌俞颖熙程归鹏张贯忠李鸿鹏宋飞玄凌博郑鹏飞黎世勇王云凤 编审： 黄本涛周豫齐王妍娟张浩然 参编单位： 北京金融科技产业联盟秘书处北京国家金融科技认证中心有限公司中国工商银行股份有限公司华为技术有限公司浙江网商银行股份有限公司中国信息通信研究院腾讯云计算（北京）有限责任公司新华三技术有限公司蚂蚁科技集团股份有限公司中科寒武纪科技股份有限公司超聚变数字技术有限公司北京百度网讯科技有限公司 前言 人工智能基础设施作为“新基建”的重要组成部分，是数字化走向智能化的核心力量，是金融机构智慧再造的关键载体。近年来，我国发布多项政策文件，进一步明确人工智能的发展规划，对人工智能算力建设指出方向。2021年底，中国人民银行发布《金融科技发展规划（2022—2025年）》，提出抓住全球人工智能发展新机遇，以人为本全面推进智能技术在金融领域深化应用，着力打造场景感知、人机协同、跨界融合的智慧金融新业态，实现金融服务全生命周期智能化。 人工智能算力数据中心是以数据中心为基础的人工智能基础设施。具体来说，人工智能数据中心是在超算中心和云计算数据中心大规模并行计算和数据处理的技术架构基础之上，通过大数据和深度学习技术保障其高效、安全运营，以人工智能专用芯片为计算算力底座，融合公共算力服务、数据开放共享、智能生态建设、产业创新聚集“四位一体”的综合平台，可提供算力、数据和算法等人工智能全栈能力，是当前人工智能快速发展和应用所依托的新型算力基础设施。“数据、算法、算力、开放平台”是人工智能基础设施的核心内容，其中算力包括AI芯片、AI平台、智能计算中心等产品，提供高性能、低成本、绿色的计算能力是算力建设的关键目标。 本报告阐述了国内外人工智能算力建设情况，梳理了当前金 融数据中心人工智能算力建设面临的挑战，从整体上提出人工智能算力数据中心的架构，围绕基建、硬件及软件基础设施给出了人工智能算力建设指引，并进一步分析了传统与新型算力、数据中心算力与边缘算力、算力与网络等关键技术的协同建设问题，探索了人工智能算力数据中心绿色低碳运维模式，最后通过成功案例展望未来，以期为金融机构数据中心建设人工智能算力基础设施提供指引与参考。 关键词：人工智能、AI算力、人工智能算力数据中心、AI使能软件、AI开发框架 目录 第一章发展背景和研究目标....................................1 （一）国家政策及“十四五”规划要求..........................1（二）金融科技发展的基础支撑................................4（三）国内外当前AI算力建设情况.............................4 二、研究目标.................................................9 第二章面临的挑战和难点.....................................10 一、整体看..................................................10 （一）数据中心AI算力发展不均衡............................10（二）数据中心AI计算能力不足..............................10（三）数据中心AI算力连接和协同能力不强....................10（四）数据中心AI算力调度不灵活............................11 二、分层看..................................................11 （一）数据中心选址问题（L0层）............................11（二）能耗及供电问题（L1层）..............................12（三）AI算力底座与周边设备及网络的问题（L2层）............12（四）支持不同业务场景的AI应用问题（L3层）................13 第三章建设指引.............................................14 一、人工智能算力数据中心架构................................14 （一）总体架构.............................................14（二）分层布局.............................................15 三、硬件基础设施层（L2）....................................20 （一）AI芯片..............................................20（二）AI服务器............................................21（三）AI计算子系统........................................22 二、传统算力与新型算力协同..................................30 （一）算力产品特征.........................................30（二）算力协同建设.........................................32 三、数据中心算力与边缘算力协同..............................37 （一）广域算力网络架构.....................................40（二）广域算力网络关键技术.................................43（三）数据中心算力网络关键技术.............................44（四）算力网络协同关键技术.................................46（五）算力网络数字化能力...................................47 （一）人员组织.............................................49（二）日常运行维护.........................................50 二、节能管理................................................50 第六章成功案例和未来展望...................................53 一、成功案例................................................53 （一）工商银行基于高性能网络的中高算力集群探索.............53（二）蚂蚁集团AI算力端云协同发展实践......................54（三）网商银行基于卫星遥感的AI算力服务农村金融实践........56 二、未来展望................................................57 （一）AI算力的建设需求快速提升............................57（二）AI算力的金融价值不断凸显............................58 参考文献....................................................60 第一章发展背景和研究目标 一、发展背景 （一）国家政策及“十四五”规划要求 人工智能基础设施是“新基建”的重要组成部分，是数字化走向智能化的核心力量，是金融机构智慧再造的关键载体。“数据、算法、算力、开放平台”是人工智能基础设施的核心内容，其中算力包括AI芯片、AI平台、智能计算中心等产品，提供高性能、低成本、绿色的计算能力是算力建设的关键目标。 近年来，我国发布多项政策文件，进一步明确人工智能的发展规划，对人工智能算力建设指出方向。人工智能已上升为国家战略，人工智能的发展迎来重大机遇。表1汇总了近年来国家和相关部委发布的人工智能及算力相关政策。 在金融行业，银保监会于2019年发布《关于推动银行业和保险业高质量发展的指导意见》，提出既要充分利用人工智能强化业务管理，改进服务质量，降本增效，又要发挥人工智能在打击非法集资、反洗钱、反欺诈等方面的积极作用。在相关宏观政策的指导下，各地结合自身区域特点和行业发展状况因地制宜出台相关政策推动智能金融的特色化发展，相关行业标准规范逐步完善。2021年，中国人民银行发布《人工智能算法金融应用评价规范》（JR/T 0221—2021），规定了人工智能算法在金融领域应用的基本要求、评价方法、判定准则。金融行业以智能化为目标，提升金融数字化水平，通过业务流程自动化降低人力成本， 通过解决信息不对称问题弥合数据信息差，通过个性化的千人千面提供普惠金融服务，从而实现业务的增长、风险成本的降低、运营成本的改善。 （二）金融科技发展的基础支撑 金融科技发展提出人工智能、大数据分析等场景，响应金融监管政策的要求。2021年12月，中国人民银行印发《金融科技发展规划（2022—2025年）》，提出“坚持发展与监管两手抓，推动金融科技在实体经济的沃土中落地生根。大数据、云计算、人工智能、区块链等技术金融应用成效显著。金融服务覆盖面逐步扩大，优质金融产品供给不断丰富，金融惠民利企水平持续提升。” 人工智能作为金融机构数字化转型的重要手段，助力金融行业在产品设计、市场营销、风险控制、客户服务以及其他支撑性业务领域和场景中实现整体升级。《金融科技发展规划（2022—2025年）》在“智慧为民”基本原则中，提出“抓住全球人工智能发展新机遇，以人为本全面推进智能技术在金融领域深化应用，强化科技伦理治理，着力打造场景感知、人机协同、跨界融合的智慧金融新业态，实现金融服务全生命周期智能化，切实增强人民群众获得感、安全感和幸福感”，加快金融服务智慧再造，提升数字绿色的服务体系中的智能应用水平。 （三）国内外当前AI算力建设情况 1.国内外算力规模发展 2020年全球算力总规模达到429EFlops1，增速达到39%，其中基础算力规模为313EFlops，AI算力规模为107EFlops，超算算力规模（换算为FP32）为9EFlops。预估未来五年全球算力规模 将 以 超 过50%的 速 度 增 长 ， 到2025年 整 体 规 模 将 达 到3300EFlops。全球算力竞争激烈，基础算力方面以中国和美国为第一梯队，其中美国占43%份额，中国占26%份额。智能算力方面，中国智能算力占算力的比重由2016年的3%提升至2020年41%，以人工智能算力数据中心为代表的AI算力基础设施发展迅猛。《2020全球计算力指数评估报告》显示“全球计算力水平top5行业分别是互联网、制造、金融、政府和电信”，金融行业综合排名进入前三。 2.金融业务应用系统需求 在新一轮科技革命和产业变革的背景下，金融科技蓬勃发展，人工智能、大数据、云计算、物联网等信息技术与金融业务深度融合，为金融发展提供源源不断的创新活力。同时《2020全球计算力指数评估报告》显示