在英飞凌 ModusToolbox™ 环境中使用 Arm® Ethos™U55 NPU 实现机器学习应用

PSoC™Edge MCU 与 Ethos™-U55 NPU 联合推动嵌入式 ML 应用发展

核心观点与平台介绍

英飞凌的 PSoC™Edge MCU 系列专为高性能、低功耗的嵌入式 ML 应用设计，集成 Cortex®-M55 CPU 和 Ethos™-U55 NPU，并支持 ModusToolbox™ 开发环境。该平台通过多核架构和常开域模块，实现复杂的 ML 计算密集型任务，适用于物联网和嵌入式系统。

Ethos™-U55 NPU 优势

Ethos™-U55 作为第一代与 Cortex®-M 处理器兼容的 microNPU，显著提升 ML 性能和能效：

• 性能提升：与 Cortex®-M55 结合，ML 性能最高提升 400 倍（KWS 应用测试）。
• CPU 负荷率降低：大幅减少 Cortex®-M55 负荷，释放资源支持更复杂的 ML 应用。
• 功耗优化：通过降低 CPU 负荷，实现系统整体功耗优化。

Ethos™-U55 NPU 加速流程

1. 模型准备：将 TensorFlow 模型量化为 8 位整数格式，转换为 TensorFlow Lite 格式。
2. 优化与部署：使用 Vela 编译器离线优化模型，生成可在 Ethos™-U55 上执行的指令流。
3. 运行时执行：TFLM 框架解析模型，将可加速部分（如 CNN、RNN）委托给 Ethos™-U55，其余部分由 Cortex®-M55 执行。

ModusToolbox™ ML 开发环境

提供全面的 ML 工具链：

• 支持模型类型：.tflite 和 .H5 格式，涵盖 MLP、GRU、Conv1d、Conv2d、LSTM 等常用和辅助内核。
• 量化与评估：支持 32 位浮点、16/8 位整数量化，提供周期和内存估算。
• 工具集成：
  • ML 配置程序：调整预训练模型以适应目标平台。
  • ML CoreTools：支持模型转换、部署和跨域验证（CDV），提供命令行和 JSON 配置。
  • Vela 编译器：优化模型权重压缩，生成高效指令流，支持自定义运算符调度。

ML 应用场景

PSoC™Edge 平台适用于多种 ML 应用：

• 关键词识别、说话人辨认
• 图像分类、视频对象检测
• 手势/人员活动检测
• 可穿戴设备、智能设备/语音控制
• 预测性维护

研究结论

PSoC™Edge MCU 结合 Ethos™-U55 NPU 和 ModusToolbox™ ML 工具链，为嵌入式/物联网环境中的复杂 ML 应用提供低功耗、高性能的解决方案，是推动边缘 AI 发展的理想平台。