探索新潮流 — AI服务器引领数据中心的发展

探索新潮流—AI服务器引领数据中心的发展 工业质量解决方案应用工程师 江茜 数据中心: 数据中心是承载IT基础架构的实体房间、建筑或设施，用于构建、运行和交付应用和服务，以及存储和管理与这些应用和服务相关 的数据。 基于技术发展的应用新趋势的发现 CAT. Applications Sub-APP NewTrends 主设备 1.IT算力设备 服务器 #AI服务器 存储设备 #固态硬盘 2.通信设备 交换机 #400G/800G交换机 路由器 #28.8Tbps路由器 防火墙 配套设备 3.供电系统 配电柜变压器*UPS柴油发动机组后备电池 4.散热制冷系统 空气冷却系统 液体冷却系统 #液冷板 5.管理系统 *DCIM*BAS 4 3 1 5 2 图片来�于网络 *UPS,UninterruptiblePowerSupply�间�电� *DCIM,DataCenterInfrastructureManagement，数据中心基础设施管理 通信设备 #3交换机 数据中心 #2固态硬盘 IT算力设备 #1AI服务器 散热制冷系统 #5液体冷却系统 #4路由器 图片来�于网络 #1AI服务器 GPU运算速度比CPU的运算速度快 一般来说，通用服务器主要采用以2/4CPU为主导的串行架构，更擅长逻辑运算；而AI服务器主要采用加速卡为主导的异构形式 （2CPUs+4/8GPUs,CPU+FPGA,CPU+其它加速卡），更擅长做大吞吐量的并行计算。 通用服务器VSAI服务器: CPUVSGPU: CPU的功能模块多，适合复杂的运算环境，大部分晶体管用在控制 电路和缓存单元上，少部分用来完成运算工作。GPU的控制相对简 单，且�需要很大的缓存单元，大部分晶体管可被用于各类专用电 路和流水线，GPU的计算速度因此大增，拥有强大的浮点运算能力。 vs CPU GPU 图片来�于网络 CPU, CentralProcessingUnit 中央处理器 *GPU, GraphicalProcessingUnit图形处理器 组成结构 25%的ALU（运算单元）25%的Control（控制单元）50%的Cache(缓存单元) 90%的ALU（运算单元)5%的Control（控制单元）5%的Cache(缓存单元) 图片来�于网络 *FPGA,FieldProgrammableGateArray 基本结构和特定部件的新趋势 5个硬件板块: ①GPU板组 ②CPU母板组 ③电�模组 ④硬盘 ⑤配件(外壳,机架,连接器,电感等) 1 GPU板组 5 5 配件–电感 5 3 配件–外壳 5 电�模组 配件–机架 2 CPU母板组 配件–连接器 基本结构: 运算能力的提高推动了新技术的发展: 部件 •电�模组 •电感 •PCB •连接器 •机架 新趋势 多相电� 叠层片式铁氧体磁珠多层高阶HDI板 高速背板连接器 高功率机架 图片来�于网络 多层高阶HDI板 #1AI服务器 多相电� 图片来�于网络 叠层片式铁氧体磁珠 高功率机架 数据中心 通信设备 散热制冷系统 核心交换机 光模块 液冷板 #2固态硬盘 #3交换机 #4路由器 #5液体冷却系统 高速背板连接器 IT算力设备 ZEISS 24May2024 Page7 AI服务器–电源模组 多相电�成为CPU/GPU供电的主流方案 AI服务器中多相电�供电版图高多层PCB结构 图片来�于网络 图片来�于网络 高多层PCB能够提供更多的走线层，让电路设计更加复杂和密集，从而满足大电流负载的需求。但是，高多层PCB面临着更高的生产复杂性和性能挑战。 多相电�上连接的元件数量显著增加。 无需破坏工件可视化其整体3D内部结构及缺陷。 实现清晰，无伪影的多种材料组件成像。 整体工作区域满足高精度可追溯测量要求。 侧视图 图片来�于网络 METROTOM800 无损检测样品缺陷，重点关注PCB内部线路情况。 样品测试要求价值主张 整体视图局部视图(9um) 无需破坏工件可视化其整体3D内部结构及缺陷。 实现清晰，无伪影的多种材料组件成像。 整体工作区域满足高精度可追溯测量要求。 正视图 METROTOM800 图片来�于网络 无损检测样品缺陷，重点关注PCB内部线路情况。 样品测试要求价值主张 整体视图局部视图(9um) 无需破坏工件可视化其整体3D内部结构及缺陷。 实现清晰，无伪影的多种材料组件成像。 整体工作区域满足高精度可追溯测量要求。 俯视图 METROTOM800 图片来�于网络 无损检测样品缺陷，重点关注PCB内部线路情况。 样品测试要求价值主张 整体视图局部视图(9um) 5个具有新趋势的重点应用概述 多相电� 图片来�于网络 叠层片式铁氧体磁珠 IT算力设备 #1AI服务器 多层高阶HDI板高速背板连接器 数据中心 通信设备 散热制冷系统 核心交换机 光模块 液冷板 #2固态硬盘 #3交换机 #4路由器 #5液体冷却系统 高功率机架 AI服务器–电感 叠层片式铁氧体磁珠是多相电�的理想电感 图片来�于网络 AI服务器中多相电�供电版图 电感技术趋势 占地面积小 单位面积PCB上可以安装更多的电感。 低背化 低轮廓电感�会堵塞风扇口，有利于散热。 低损耗 低铜线损耗，低磁芯损耗 图片来�于网络 叠层片式铁氧体磁珠 多相电�上连接的电感数量显著增加。 AI服务器–电感 叠层片式铁氧体磁珠是多相电�的理想电感 <叠层片式铁氧体磁珠结构> 铁氧体 内部电极 通孔（连接内存线路） 端电极 螺旋多层内电极 图片来�于网络 图片来�于网络 铁氧体磁珠覆盖膜厚度测量 Overviewin33X 2,000X5,000X SEM Sigma360 Gemini物镜的设计即使是磁性样品，也能进行高品质成像。 BSE探测器获得膜层样品的高分辨率形貌和成分衬度成像。. 领先的X射线几何设计，快速得到元素分析结果。 样品测试要求价值主张 20,000X10,000X 漏磁镜筒 Gemini镜筒 图片来�于网络 SEM Sigma360 Gemini物镜的设计即使是磁性样品，也能进行高品质成像。 BSE探测器获得膜层样品的高分辨率形貌和成分衬度成像。. 领先的X射线几何设计，快速得到元素分析结果。 铁氧体磁珠覆盖膜厚度测量 样品测试要求价值主张 SEM Sigma360 图片来�于网络 Overviewin45X 300X Elementmapping 1,000X Sn Ni Ag Gemini物镜的设计即使是磁性样品，也能进行高品质成像。 BSE探测器获得膜层样品的高分辨率形貌和成分衬度成像。. 领先的X射线几何设计，快速得到元素分析结果。 铁氧体磁珠端电极厚度测量 样品测试要求价值主张 3,000X 数据中心 高速背板连接器 IT算力设备 5个具有新趋势的重点应用概述 多层高阶HDI板 #1AI服务器 多相电� 图片来�于网络 叠层片式铁氧体磁珠 高功率机架 通信设备 散热制冷系统 核心交换机 光模块 液冷板 #2固态硬盘 #3交换机 #4路由器 #5液体冷却系统 图片来�于网络 AI服务器-PCB 先进的GPU加速卡需要使用多层高阶HDI板 GPU板组的PCB分布 OAM，OCPAcceleratorModule,GPU加速卡UBB，UnitBaseboard，GPU模组板 图片来�于网络 GPU通信模组*6 多层高阶HDI板结构 图片来�于网络 GPU加速卡需要使用高层数、高密度、高可靠性的HDI板来连接各个部件。 阶数越高，层数越多，HDI板的生产技术难度越大。 AI服务器-PCB PCB生产过程解决方案 在5kV或更低电压下获得更佳的分辨率和对比度，清楚观察干膜表面形貌。 电子束推近加速器技术轻松实现倾斜样品观察。 领先的X射线几何设计，快速得到元素分析结果。 干膜图形检查，干膜和铜之间的结合情况检查 多层高阶HDI板质量检查 SEM Sigma360 样品测试要求价值主张 干膜图形检查 在5kV或更低电压下获得更佳的分辨率和对比度，清楚观察干膜表面形貌。 电子束推近加速器技术轻松实现倾斜样品观察。 领先的X射线几何设计，快速得到元素分析结果。 干膜图形检查，干膜和铜之间的结合情况检查 多层高阶HDI板质量检查 SEM Sigma360 样品测试要求价值主张 干膜图形检查 多层高阶HDI板质量检查 叠孔缺陷检查 LM Smartzoom5 + 样品测试要求价值主张 FIB Crossbeam 叠孔缺陷检查 光电联用，快速准确定位缺陷位置。 物镜无漏磁设计，电子束和离子束可同时工作，实现边切边看，精确定位缺陷位置，提高失效分析成功率。 领先的X射线几何设计，快速得到元素分析结果。 数据中心 通信设备 散热制冷系统 核心交换机 光模块 液冷板 #2固态硬盘 #3交换机 #4路由器 #5液体冷却系统 高速背板连接器 IT算力设备 5个具有新趋势的重点应用概述 多层高阶HDI板 #1AI服务器 多相电� 图片来�于网络 叠层片式铁氧体磁珠 高功率机架 AI服务器–连接器 高速背板连接器实现高速传输 图片来�于网络 图片来�于网络 高速传输将朝着“56G－112G－224G”的方向发展，这衍生出迫切的高速连接器需求。 高速和高密度是背板连接器发展的重要方向，高速和高密度之间存在着�可避免的相互制约关系。 METROTOM1500 无需破坏工件可视化其整体3D内部结构及缺陷。 实现清晰，无伪影的多种材料组件成像。 整体工作区域满足高精度可追溯测量要求。 无损缺陷检查，尺寸测量。. 样品测试要求价值主张 METROTOM1500 无需破坏工件可视化其整体3D内部结构及缺陷。 实现清晰，无伪影的多种材料组件成像。 整体工作区域满足高精度可追溯测量要求。 无损缺陷检查，尺寸测量。 样品测试要求价值主张 METROTOM800 无损缺陷检查，尺寸测量。 样品测试要求价值主张 网格表面清晰光顺没有噪点 无需破坏工件可视化其整体3D内部结构及缺陷。 实现清晰，无伪影的多种材料组件成像。 整体工作区域满足高精度可追溯测量要求。 METROTOM800 3 无需破坏工件可视化其整体3D内部结构及缺陷。 实现清晰，无伪影的多种材料组件成像。 整体工作区域满足高精度可追溯测量要求。 无损缺陷检查，尺寸测量。 样品测试要求价值主张 METROTOM800 无需破坏工件可视化其整体3D内部结构及缺陷。 实现清晰，无伪影的多种材料组件成像。 整体工作区域满足高精度可追溯测量要求。 无损缺陷检查，尺寸测量，数模比对。 样品测试要求价值主张 XradiaVersa620 无损亚微米级三维成像。 采用光学和几何两级放大技术，实现最高空间分辨率500nm，最小体素40nm。 可在�同工作距离下对�同类型、 �同尺寸的样品实现高分辨率成像。 无损缺陷检查，尺寸测量。. 样品测试要求价值主张 XradiaVersa620 无损亚微米级三维成像。 采用光学和几何两级放大技术，实现最高空间分辨率500nm，最小体素40nm。 可在�同工作距离下对�同类型、 �同尺寸的样品实现高分辨率成像。 无损缺陷检查，尺寸测量。 样品测试要求价值主张 XradiaVersa620 无损亚微米级三维成像。 采用光学和几何两级放大技术，实现最高空间分辨率500nm，最小体素40nm。 可在�同工作距离下对�同类型、 �同尺寸的样品实现高分辨率成像。 无损