2023ODCC0500C 网络级DMA（NDMA）技术需求白皮书

网络级DMA技术需求白皮书ODCC-2023-0500C总结

高性能分布式系统承载大规模算力需求

• 全球算力高速增长：随着数字化经济的发展，全球算力需求激增，人均算力水平与国家经济发展水平正相关，中国与发达国家在算力水平上有一定差距。
• 分布式系统承载大规模算力任务：面对高速增长的算力需求，高性能分布式系统成为关键，它们通过网络连接提供海量计算和存储资源，以承载大规模算力任务。

分布式系统以多对多集合通信为主

• 集合通信定义：集合通信是将多个通信对象组合在一起，实现一次调用即可向多个对象发送数据或接收数据的通信方式。
• 多对多通信的普遍性：在分布式系统中，尤其是超算系统，多对多集合通信（如广播、散布、聚集）的调用频率较高，占总通信调用的66%。

大规模集合通信面临的性能挑战

• 通信效率问题：目前的传输机制，如RDMARC模式，采用点对点传输方式实现多对多通信，导致带宽浪费、性能下降。
• 扩展性和长尾延迟：随着系统规模的扩大，RDMARC模式下的扩展性问题和长尾延迟问题愈发明显。

应对策略：NDMA技术

• NDMA概念：NDMA（Network-level DMA）技术针对网络中一组节点进行内存直读、直写操作，优化分布式系统传输性能。
• 应用价值：NDMA在HPC、AI、存储等场景下具备明确的应用价值，通过端网协同机制，将应用通信逻辑下沉到网络层面。
• 技术架构：NDMA采用整体框架和关键技术，旨在最优化分布式系统传输性能。
• 原型验证：通过OSUBenchmark和SPDK验证，证明了NDMA在计算和存储场景中的性能优势。

结论与展望

• 总结：面对全球算力需求的高速增长和分布式系统中多对多集合通信的普遍性，NDMA技术提供了优化传输效率、提升系统性能的解决方案。
• 未来展望：NDMA技术有望进一步推动高性能分布式系统的发展，加速大规模计算任务的完成速度，促进数字化经济时代的算力建设。