借技术助需IP求满足中国不断演变的云呼叫中心 白皮书 新思科技云业务营销经理 ScottDurrant, 序言 自从云计算技术在将近20年前推出以来,应用和计算资源不断从企业数据中心向云环境持续迁移。IT基础架构向云端的迁移仍在继续,而据Gartner预测,到2025年,将有80%的企业关停传统数据中心,同时,其物理基础架构将完全依赖云提供商而运行(图1)。随着这一转变的推进,云服务提供商将面临在超大规模云环境中不断提高性能、扩展性和安全性的挑战。为达到所需的服务水平,这些超大规模云服务提供商采用一些工具,包括: ●增强计算、网络和存储基础架构 ●用于实现可视化计算和人工智能的新技术 ●将某些云服务前移到网络边缘 将中关心停的传企统业数据 受访对象的比例 当前 2025 资料来源:Gartne(r2019年2月)©保留所有权利 图1:向云基础架构过渡 本文将探讨中国片上系统(SoC)开发人员在满足现代云基础架构需求方面所面临的一些挑战,以及可用于开发高效SoC解决方案的工具与技术。 synopsys.com 推动云计算发展的主要趋势 推动当前云计算市场发展的主要趋势有三个,而每个趋势都给SoC设计人员提出了挑战: ●云数据快速增长 ●无处不在地使用人工智能提取数据的含义 ●云服务向网络边缘扩展 我们将在下文依次讨论每一项挑战。 云数据的快速增长 云数据正以指数级不断增长。受互连设备数量快速增长,流视频、社交媒体上共享的内容日益增多、在线增强现实和虚拟现实(AR/VR)体验以及5G无线网络的推动,IDC预计,从2020年至2025年,云数据的数量将增长3倍。(图2) 全球数据的年增长规模 180 160 140 120 100 80 60 40 20 0 175ZB 2010201120122013201420152016201720182019202020212022202320242025 Zetabytes 资料来源:Seagate赞助的《2025年的数据时代》调研,数据来自IDC《全球数据》报告。2018年11月 图2:2010-2025年的全球互联网数据增长 数据的增长给SoC开发人员带来了几个新的挑战,他们需要在两个方面快速而且有效地搬运大量数据:服务器之间以及服务器内部(即服务器内部设备之间)。这些挑战包括: ●提高每瓦特的性能,在现有功率/热量范围内增强计算能力 ●为设备间的数据访问提供高速、一致的芯片接口 ●在数据中心内部和之间提供低延时的高速联网 ●提供创新的存储方案,以增加容量并使数据更靠近处理器 ●保护数据机密性、完整性和可用性 广泛使用人工智能提取数据含义 云计算的第二个主要趋势是云环境中收集、存储和处理的数据迅速增多。由于数据量大,用于分析和提取数据含义的传统机制已不再能够满足需求。相反,企业纷纷利用人工智能(AI)工具分析数据,包括Web搜索、语言翻译、电子邮件过滤、产品推荐和语音助手等应用。为了促进将人工智能应用于众多服务中,云服务提供商纷纷在云端部署人工智能加速器。据估计,到2023年,大多数云服务器都将包含人工智能加速器。1 要从云端收集并存储的大量数据中有效获取价值,需要对SoC和云基础架构进行多项增强,包括: ●采用高能力、高性能的人工智能加速器进行基于机器的数据分析 ●利用高带宽内存/数据接口为人工智能加速器提供数据 ●通过高速、低延时的加速器互连实现人工智能加速器的扩展和数据传输 向网络边缘扩展 云数据增长的驱动因素之一是连接到云端的物联网设备激增。这些设备中有许多对延时敏感的应用,包括汽车控制系统、图像和语音识别与应答系统、流视频以及增强和虚拟现实应用。为了满足这些应用的最低时延要求,设计人员在边缘的分布式网络中将相关数据和数据处理能力部署到更靠近使用点的位置。 随着云的扩展以满足边缘计算需求,SoC开发人员必须满足边缘计算的新要求,包括: ●支持日益增多的机器间通信 ●亚毫秒级应用延时 ●在远程数据中心的功率限制和可变环境条件下运行 ●AR/VR和其它可视化计算应用的加速器 针对每个云数据中心市场的专项增强 前文所述的挑战可通过增强云计算的六个主要功能领域而解决(图3): ●计算服务器 ●网络基础架构设备 ●存储系统 ●可视化计算解决方案 ●电信边缘基础架构设备 ●人工智能/机器学习(AI/ML)加速器 服务器 网络 存储 ●增强高密度和边缘环境的功率效率 ●采用更快的接口进行数据传输 可视化计算 ●受富媒体和高速设备推动, 从100GbE向400+GbE过渡 边缘基础架构 ●采用下一代PCIe、NVMe、SCM加快 ●采数用据本访地问CPU尽量减少数据移动 人工智能 ●A图R片/V处R、理图形和视频内容要求高性能 ●云G服部务署向推边动缘了扩更展高的数据流量、更 ●5低的延时 ●在从云大服量务数器据中集部内署获人取工洞智察能加速器, 图3:云计算的六个主要功能领域 服务器 云数据的增长推动着位于中心的超大规模数据中心和位于网络边缘的远程设施中计算密度不断增加。计算密度的提高需要更节能的CPU,这样才能在现有数据中心设施的功耗和热量预算范围内提高计算能力。由于对更节能的CPU的需求,市场最近对于针对每瓦特性能而优化的基于ARM的服务器CPU再次表现出了极大的兴趣。 数据量的增长对更快的服务器接口提出了需求,因为在服务器内部和服务器之间需要搬运大量数据。服务器内的数据移动可能是主要的瓶颈,也是延时的根源。通过最大限度地减少数据移动,并在数据需要移动时提供高带宽、低延迟接口,这对于最大程度提高性能、减少延时和功耗至关重要。要提高性能,所有内部服务器接口都在进行升级: ●DDR5接口的速度提高到6400Mbps ●当PCIe接口从16GT/s的PCIe4.0过渡到32GT/s的PCIe5.0,再到64GT/s的PCIe6.0时,其对带宽的需求翻了四倍。由于PCIe4.0未广泛普及,某些设备的带宽会增加更多,因此,某些设备将直接从PCIe3.0(8GT/s)转到PCIe5.0或PCIe6 ●NVMeSSD正从PCIe3.0转向PCIe5.0,使带宽增加4倍 ●ComputeExpressLink(CXL)提供了在PCIe电接口上运行的缓存一致性接口,并允许多个处理器/加速器有效共享数据和内存,从而减少系统中需要移动的数据量 ●通过采用PAM4编码并支持多种协议的56Gbps和112Gbps新型高速SerDes技术,可在包括晶片、芯片、加速器与背板的设备之间提供更快的接口 DRAM容量与带宽 10,000 1,000 DRAMDDR5LPDDR5 HBM2E #I/F(DI/QF比宽特度)容每量I/F(最GB大) 864 (M速b度ps) 注释 DDR5 1232 41,024 256 8 16 4,800 6,400 3,600 双128GBRDIMM 8Gb晶片,8DP 16Gb晶片,8H 100 LPDDR5 HBM2E 10 500 1,000 带宽(GBps) 1,500 2,000 容量(GB,对数分度) 除了上面列出的接口之外,多种类型的内存还可以满足不同用例的容量、功耗和性能要求。如果内存容量是主要考虑因素,DDR5则是必选的内存类型。如果内存带宽是最重要的考虑因素,HBM2E则可提供对内存中数据的高速访问,如图4所示。 图4:多种内存类型的容量与最大带宽对比 举例来说,图5显示了一个服务器的典型框图,该服务器分别配备采用CXL和PCIe的一致性和非一致性I/O接口,以及一个大容量DDR5内存接口。 图5:典型云服务器框图 SynopsysDesignWareIP 为了在处理服务器之间传输的数据时提高性能和效率,许多服务器现在都整合了“智能NIC”,它包含NIC上的嵌入式处理器,用于减轻主机CPU上的网络协议、安全功能,SDN和其他功能的处理负担。智能NIC有助于以更高的性能对网络数据包进行处理,同时为应用的处理保留主机CPU带宽。具有代表性的智能NIC的实施框图如图6所示。 56Gor112GUSR/XSRPHYHBIDie-to-DiePHY ControllerDie-to-DieI/F ARC Processors Cache ProcessingSubsystem EmbeddedMemories LogicLibraries DDR5/4orHBM2/2EPHY DDR5/4orHBM2/2E Controller MemoryI/F Interconnect Security Accelerators CacheCoherentExpansionCCIXorCXLController InlineAESCryptography PCIe5.0or6.0PHY NetworkI/F SecurityProtocolAccelerators DSP 100G EthernetController RootofTrust Cryptography PacketProcessingAccelerator 56Gor112GEthernetPHYs 56Gor112GUSR/XSRPHY Processors DDR5/4orSecurity HBM2/2EPHYProtocolAccelerators HBIDie-to- DiePHYRootofTrust Die-to-DieI/F Cache ProcessingSubsystem DDR5/4orHBM2/2E Controller MemoryI/F Cryptography Security Interconnect CacheCoherentExpansion CCIXorCXL Controllers InlineAESCryptography PCIe5.0or6.0PHY PeripheralI/F PCIe5.0or6.0 Controller InlineAESCryptography PCIe5.0or6.0PHY NetworkI/F StorageI/F 100G/400G EthernetController NVMe 56G/112G EthernetPHYs PCIe5.0or6.0 Controller PCIe5.0or6.0PHY Controller EmbeddedMemories LogicLibraries 图6:智能NIC框图 SynopsysDesignWareIP 除了更快的接口和更高效的存储器外,保护数据对于云计算同样至关重要。随着数据在云端传输和存储的价值不断提高,数据的不当访问和滥用等方面的威胁也在增加。为了适当地保护授权用户可访问的数据的机密性、完整性和可用性,标准化机构纷纷将安全要求纳入数据接口协议中。要在这些高速接口中实施必需的安全算法,需要用于数据加密和解密的高质量加解密IP、用于实施高速安全协议的安全协议加速器IP,以及用于提供信任根和安全密钥管理的可信执行环境。为了避免在各个数据路径中产生瓶颈,用于实现这些功能的IP必须能够保持原数据路径线速率运行。 数据中心计算服务器市场规模 在过去几年间,全球数据中心市场呈现温和增长的态势,IT支出从2017年的1810亿美元将增长到2021年预期的2120亿美元(复合年增长率为4.0%)。如图8所示,约三分之一的支出用于服务器系统。截至2019年第四季度,按收入计算的前5位供应商包括HPE/NewH3CGroup和DellTechnologies,分别拥有约16%的市场份额,IBM、浪潮和联想进入前五名。值得指出的是,华为的服务器提供商地位不断增强,由于中国的“一带一路”基础设施项目的推动,有望很快跻身前五名(图7)。 2019年第(4按季厂度商计收算入服排务名器)市场份额 15.9%16.3% 15.7% 25.5% 9.1% HPE/NewH3CGroupDellTechnologiesIBM Inspur/InspurP