昇腾计算产业发展白皮书

1.1AI01 1.1.1AI01 1.1.2AI02 1.2AI03 1.2.103 1.2.205 1.2.3AI08 1.2.409 2.111 2.214 3.117 3.221 3.2.122 3.2.222 3.2.323 3.2.423 3.2.524 3.324 3.3.125 3.3.226 3.3.3AI3.427 3.529 32 3.5.132 3.5.2 3.5.3 3.5.4AI 3.5.5 3.5.6 33 34 35 36 37 4.1AI39 4.241 4.343 4.445 4.5 47 4.649 4.751 4.854 4.956 4.10 57 5.159 5.2 62 5.364 5.4 69 5.5 72 1 79 279 1 AI人工智能 EfficientNetTop5 98.7%96%RNN-T 96.8%94.17% BERT90.9%82% AI AI AI AI AI AI 202434.8% AI5G 2019AI598.62020- 5GAI [a]FixEfficientNet带有额外训练数据的ImageNet [b]BiLSTMRNN-TLibriSpeech数据集 [c]威震天-BERTRACE VR/AR 5G AI AI+AI AI 2025 AI86%80% AI AIAIAI AIAI AI AIAI 20126AI30 BERT,GPT-3 TFLOPSPFLOPSEFLOPSAI AI AI AIAI AI • • • • • • • • • • • • • • • NPU• •API +微调 AI AI AI AI AI AIAI AI AIAI AI AI AI DSA域特定体系结构 AI AI AI APIAI APIAI API AI AI AI AI AI AI AIAIAI AIAI AIAI AIAI AI AIAIAI 5001:10AI 72%AI AI0.4 10.080,09 0.130.17AI AIAI AI 2 AI 神经网络的CANN计算架构 网络AI OEMODM XaaS IHVC&SIISV NPU CANN TensorFlow/PyTorch/ MindSpore MindX HiAI服务 ModelArts FusionDirector/Smartkits MindStudio AIAI AI AI CANN MindStudio AIMindSpore MindXModelArtsHiAI IaasPaas，SaaS AI AtlasAI 阿特拉斯阿特拉斯 AIAIMindSporeAI TensorFlowPyTorchCaffeMindSpore AIAI AIAI 3 AI3-1 SDK ModelZoo MindXDL ModelArts NPU驱动程序 CANN AscendCL///内核 TensorFlow/PyTorch MindSpore HiAI服务/ MindStudio FusionDirector/Smartkits MindXMo delZooSDK Edge MindXMo delZooSDK Edge AI 阿特拉斯320TFLOPSFP16 阿特拉斯256P1024PFLOPSFP16ResNet-50 ImageNet25.9s 阿特拉斯88TOPSINT880 阿特拉斯AI PUE(电源使用效率)<1.1 E512TOPS/W AI MindXModelArtsHiAIMindXSDKSDK SDKISVAI AIMindSpore MindSpore CANNMindStudio 上升CL上升计算语言CANN 上升CLAIAIAPI上升CL AI AI MindXAIMindXDL MindX边缘ModelArtsHiAI服务 MIndXModelZoo SDKModelZooSDK SDKISVAI AICANN AI MindSporeAI MindSpore AIAIAI 阿特拉斯 AI Atlas200AIAtlas200DKAIAtlas300AI 阿特拉斯 阿特拉斯 Atlas200AI AI AI 阿特拉斯300 OEM/ODM 阿特拉斯500Atlas800AIAtlas900AI AI AINPU神经 处理单元 NPU AI16*16*163D立方体 409616MAC IP AI 22TOPSINT811 TFLOPSFP168W AIIT 320TFLOPSFP16 SoCAICPU核心DVPP 任务计划程序主机CPUHCCSPCIe4.0RoCEv2横向扩展向上扩展 ܳ㚫䃎ツƒܳƒহцѡᣕӈܳܳȠܳܳ͑ܳㆨܳ,ڣ͚ܳܳ䔅ᵦᢛҬ⩕ܳܳܳƒᣕ⤳ܳࣷƒ ܳܳ。 ƒܳ ●Atlas200AIܳ3000)䯳ܳ]ܳ㚫ᣕ⤳ධ⤳ܳ22TOPSINT8ツAIܳܳ ●阿特拉斯300Iᣕ⤳3000/3010)ܳλ ,जܳ∈ܳ⩕λܳܳܳ” ܳܳϑ䕇Ƞܳܳ䛾㲺ぶܳܳ。 㚫ධ⤳88TOPSINT8,ܳ80䌜倅⌲㻳ܳ2Ժ ●阿特拉斯300Tƒ9000)320TFLOPSFP16<unk><unk><unk><unk><unk><unk><unk><unk> <unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk> <unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk> <unk><unk><unk><unk><unk><unk><unk><unk>3/4ცPCIeܳAIƒܳВ倅ë㘪䃎ツ䶳ܳ⮱ツ 3.2.3ܳධ ܳ㚫䃎ツ”͇ƒܳƒহцѡᣕӈ]ܳλܳ㚫ᣕ⤳ධ⤳ܳ⮱ܳ㘪ᄼ阿特拉斯500,<unk>X<unk><unk><unk><unk> <unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk> <unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk> <unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk> <unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk> <unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk> <unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk><unk> <unk><unk><unk><unk><unk><unk><unk><unk> ܳ䋠”ç3Ƞϑ䕇Ƞë➠Ƞë➠ȠܳܳȠ䊲”ぶධܳŠධ➠ܳ⮱ܳ⩕䰭Ⅿ。 <unk><unk> 3.2.4 ܳ㚫䃎ツƒܳƒহцѡᣕӈ阿特拉斯8003Atlas500Proܳ3ܳ 阿特拉斯8003000/3010/英特尔 2UAI8AI 704TOPSINT8OCR 阿特拉斯8009000/9010英特尔 4U82.24PFLOPSFP16 Atlas500Pro3000 2UAI 4AI352TOPSINT8AI475mm600mm Atlas900AI HCCSPCIe4.0100GRoCE PC 256P1024PFLOPSFP1650 AI CANNAI AICANN 10EMUIAndriodopenEulerUOS UbuntuDebianSuse14AI CPUNPUAI TBE CANN CANN4驱动程序 HCCL华为集体通信库 100GRoCE 上升CL插件 AI IR(中级代表) CANN TBE-DSL张量提升工程域特定语言DSL 上升- TBE-TIK张量迭代器内核 MindStudio MindStudio 70% MindStudio MindStudioIntelliJ AI MindStudio AIAIAI AIMindSporeMindSpore MindSpore自动并行 MindSporeSCT源代码转换,AD自动分化, SCT MindSpore AIMindSpore MindSporeSCTAD MindSpore自动并行 MindSpore MindSpore AI AIMindSpore 1 SDKSDK 2 3 4MindSpore MindX 2 ( MindXDL MindXEdge) 1 ( 模型动物园) SDK Kubernetes cAdvisorforAscend 火ft HCCL控制器 设备插件 MindXDL MindXDLNPU Ascend设备插件HCCL- 控制器火ftcAdvisorforAscend AIMindX边缘AIMindX边缘代理 MindX边缘 MindX边缘 256MCPU3%MindX边缘 AI EdgeAgentDocker边缘核心 边缘站点边缘集线器 边缘站点 KubeEdge 边缘核心 边缘集线器 代理 边缘站点 HA CFD ModelZoo ModelZooAI MindSporeTensorFlowPyTorchCaffe AISDK AIAI SDK SDKSDK SDKSDK 5AI 0.5 10 SDK CANNAI MingSpore CPU+GPU+NPU+FPGA CPU GPU,NPU,FPGA // MindSpore MindSpore2020328https://www.mindspore.cn https://gite.com/mindspore(TSC)圆锥AI 伦敦帝国学院 爱丁堡大学巴黎-萨克莱大学明斯特 13//MindSpore LFAILinux TAC 外展LFAIAcumosONNXONNXOpenI - OpenIApacheTVM 咨询委员会TOP102 安全安全 AI AI AI DVPP数字视觉预处理AIPPAI预处理AI NPU 形状 / AI DVPP AI核心 AIPP / AI核心 CANN1000 3 GPT-317501TB 管道 On-DeviceHostCPU 立方体/向量/CPU/ SDMA UBL1/L2SuperKernelDDB / 管道SIMD MindSpore 图灵-前起落架，GPT-3 Cost 模型成本模型 张量 张量张量 管道 4 AI AIAI AIAI AI AIAIAI AI AI( / / ) AI HCSO(ModelArts) AI X86 GPU 阿特拉斯800 Atlas900AI 阿特拉斯800 Atlas900AI / / / 1)AI L0-L3 2)AI阿特拉斯 HCSOModelArtsAI 50%~80%70% AI4.51.8 3)AI MindXDLWeb 5~10 IIAtlas900AIAIAIE AIAI AI AI AI 阿特拉斯 AI 阿特拉斯BERT-Large ResNet50 80%PUE<1.1 阿特拉斯808 640 阿特拉斯 ResNet50BERT-Large1 TensorFlow3D+批处理2 AIVR AI A