2024下一代高性能算力底座技术白皮书

DPUCPUGPUDPUCPUGPUDPUCPUCPUGPUGPUGPU DPUDPUDPUAWSDPUDPU DPUDPUDPUDPUDPURed HatVMware Palo AltoIaaSDPUAWS IaaS on DPU (IoD)IoDIoDDPUIaaS DPUDPUIoD 11 1.1. . . . . . . . . . . . . . . .11.1.1. . . . . . . . . . . . . . . . . . . . . . . . . . .11.1.2. . . . . . . . . . . . . . . . . . . . . . . . . . . . .21.2AI. . . . . . . . . . . . . . . . . . . . . . . . .31.2.1AI. . . . . . . . . . . . . . . . . . . . . . . . . . . .31.2.2AI. . . . . . . . . . . . . . . . . . . .41.2.3AI. . . . . . . . . . . . . . . . . . . .51.3IaaS on DPU(IoD). . . . . . . . . . . . . . . . . . . . .61.3.1IoD. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .61.3.2IoD. . . . . . . . . . . . . . . . . . . . . . . . . . . .71.3.3. . . . . . . . . . . . . . . . . . . . . . .101.4IoD. . . . . . . . . . . . . . . . . . . . . . . . . . .131.4.1. . . . . . . . . . . . . . . . . . . . . . . . .131.4.2. . . . . . . . . . . . . . . . . . . . . . . . .141.4.3. . . . . . . . . . . . . . . . . . . . . . . . .151.4.4. . . . . . . . . . . . . . . . . . . . . . . . .151.4.5. . . . . . . . . . . . . . . . . . . . . . .16 218 2.1. . . . . . . . . . . . . . . . . . . . . . . . . . . .182.1.1. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .182.1.2. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .192.1.3. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .192.1.4. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .202.2. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .202.2.1. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .21 2.2.2. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .212.2.3. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .222.2.4GPU. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .222.2.5. . . . . . . . . . . . . . . . . . . . . . . . . .232.3. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .242.4. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .252.5. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .262.6. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .272.6.1. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .272.6.2. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .272.6.3. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .28 29 3 3.1. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .29 3.1.1CPU. . . . . . . . . . . . . . . . . . . . . . .293.1.2CPU. . . . . . . . . . . .303.1.3IoDHypervisor. . . . . . . . . . . . . .32 3.2. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .34 3.2.1GPU. . . . . . . . . . . . . . . . . . . . . . .343.2.2GPU. . . . . . . . . . . . . .353.2.3AI. . . . . . . . . . . . . . .36 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .38 3.3.1. . . . . . . . . . . . . . . . . . . . .383.3.2. . . . . . . . . . . . . . . . . . . . .393.3.3. . . . . . . . . . . . . .39 3.4. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .42 3.4.1. . . . . . . . . . . . . . .423.4.2. . . . . . . . . . . . . . . . .433.4.3IoD. . . . . . . . . . . .44 3.5. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .45 3.5.1. . . . . . . . . . . . . . . . . . . . . .453.5.2. . . . . . . . . . . . . . . . .46 3.5.3. . . . . . . . . . . . . .473.5.4DPU. . . . . . . . . . . . . . .473.5.5IoD. . . . . . . . . . . . . . . . . .483.6. . . . . . . . . . . . . . . . . . . . . . . . . . . .503.6.1. . . . . . . . . . . . . . .503.6.2. . . . . . . . . . . . . . . . . . . . . .503.6.3IoD. . . . . . . . . . . . . . . . . . . .513.7IaaS on DPU(IoD). . . . . . . . . . . . . . . . . . . . .51 4.1. . . . . . . . . . . . . . . . . . . . . . . . . .534.1.1. . . . . . . . . . . . . .534.1.2. . . . . . . . . . . . . . . . . . . . . .544.1.3. . . . . . . . . . . . . . . . . . . . . .554.2. . . . . . . . . . . . . . . . . . . . . . . .564.2.1. . . . . . . . . . . . . . . . . . . . . .564.2.2. . . . . . . . . . . . . . .574.2.3DPU+=. . . . . . . . . . . . . . . .584.3. . . . . . . . . . . . . . . . . . . . . . . . . . . . .594.3.1. . . . . . . . . . . . . . . . . . . . . . .594.3.2IoD. . . . . . . . .59 5PaaS61 5.1. . . . . . . . . . . . . . . . . . . . . . . . . . . . .615.2. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .625.3. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .62 6 1 1.1 1.1.1 2050Christopher StracheyTime Sharing in Large Fast Computer60IBMMIT1974Gerald J. PopekRobert P. GoldbergFormal Requirements for Virtualizable Third Generation ArchitecturesPopek and Goldberg virtualization requirementsIII QemuXen KVM2006GoogleCEO Eric SchmidtCloud ComputingAWS2010OpenStack 2070Unix V7chroot2009LXCLinuxCNCF2018 1.1.2 AIGCIoT 5G/B5G Web3.0OpenStackZunMagnum KyrurCNCFKubevirtMetal3CPUGPUDPU3UCPUGPUDPU 1.13U AIGCG400G API 1.2 AI 1.2.1 AI Artificial IntelligenceAI 21AI2006Hinton2012AlexNetImageNet AI+++2017GoogleTransfor