AIGC浪潮下WebNN的演进与实践

WebNN概述与性能对比

背景

WebNN（Web Neural Network）为Web带来了神经网络的统一抽象，旨在简化跨平台的机器学习模型部署。

架构设计

WebNN包括计算图（Computation Graph）、输入缓冲区（Input Buffers）、中间结果缓冲区（Intermediate Buffers）和输出缓冲区（Output Buffers），支持CPU、GPU和NPU等不同类型的硬件加速。

性能对比

• MediaPipe模型：在Intel Core Ultra 7处理器155H搭配集成Arc GPU的环境下，WebNN相对于原生实现的加速比约为3.0-4.5之间。
• DirectML加速：WebNN DirectML在Intel Core Ultra 7处理器155H搭配集成Arc GPU的环境下，相对于原生DirectML的加速比约为70%-95%之间。
• MobileNet V2、SqueezeNet 1.0、ResNet50 v1、EfficientNet Lite 4：在Intel Core Ultra 7处理器155H搭配集成AI Boost NPU的环境下，WebNN NPU相对于原生NPU的加速比分别为238%、95.8%、73.4%和86.1%。

具体示例

• 文本转语音演示：为Khan Academy Khanmigo提供WebNN执行提供程序，通过DirectML加速，运行在Intel Core Ultra 7处理器155H上。

总结

WebNN通过统一的抽象层实现了跨平台的神经网络加速，显著提升了模型的推理速度。在多种硬件配置下，WebNN展示了良好的性能表现，特别是在使用NPU加速时，能够获得较高的加速比。