在英飞凌 ModusToolbox™ 环境中使用 Arm® Ethos™-U55 NPU 实现机器学习应用-17页.pdf

白皮书

在英飞凌ModusToolbox™环境中使用Arm®Ethos™-

U55NPU实现机器学习应用

摘要

机器学习(ML)模型需要强大的计算资源来进行训练和推理，因此，它们通常在可以进

行大算力数据处理的PC或云服务器上运行。然而，在计算机架构的革命性发展和软

件工具的突破性进步的引领下，嵌入式系统Al和ML应用正在经历转型期。ML应用

和场景正迅速扩展到物联网和嵌入式系统领域。当视频和图像等数据利用深度学习

ML模型时，这些应用需要高处理能力的运算单元和大量的内存。为了支持这些场景，

有必要使用诸如Arm®Ethos™-U55等神经网络协处理器(NPU)来增强处理器的性能。

能耗效率和低成本是嵌入式ML应用的关键标准。除增强处理能力之外，还需要降低

系统功耗和提供高效的软件开发环境。开发环境涵盖了用于模型开发、训练和部署的

工具和优化器。

英飞凌的PSoC™Edge平台及其ModusToolbox™软件开发环境可以更好地利用平

台硬件资源进行CPU密集型嵌入式ML推理。

1

10/2023

目录

摘要1

1PSoC™EdgeMCU3

2Ethos™-U55NPU4

2.1使用Ethos™-U55NPU的优点5

2.1.1ML性能提升5

2.1.2CPU负荷率6

2.1.3功耗7

2.2Ethos™-U55NPU加速流程7

3ModusToolbox™8

3.1ModusToolbox™ML9

3.2ModusToolbox™ML软件架构10

3.3运行时软件流程11

3.4Cortex®-M55CPU与Ethos™-U55NPU通信12

3.5工具13

3.5.1ML配置程序13

3.5.2MLCoreTools13

3.5.3Vela编译器13

4ML应用14

5结语15

参考文献16

2

10/2023

1PSoC™EdgeMCU

PSoC™EdgeMCU是一个高性能、低功耗MCU产品系列，这些产品专为提升计算

性能、人机界面(HMI)、机器学习(ML)、增强传感、实时控制和低功耗应用而设计。

这个产品系列中的双CPU微控制器都具备神经网络协处理器、DSP功能，并支持高

性能内存扩展能力(OSPl)、可进行高性能模数转换的低功耗模拟子系统和低功耗比较

器等。这些产品还提供了物联网连接、通信接口、可编程模拟和数字模块，以及音频

和图形模块等。

ModusToolbox™开发环境包括可安装的SDK和库、Arm®行业标准工具、RTOS支

持以及性能稳健且易于使用的ML和HMI软件和工具。支持的功能包括安全、通信和

控制以及DSP功能。多域架构实现了细粒度功耗优化以及动态频率和电压按比例调节。

PSoC™Edge的常开域模块支持语音识别、触摸唤醒、电池监测和其他传感应用。提

供这些功能仅需极低功耗。

PSoC™Edge高性能域系统级架构如图1所示。

图1PSoC™Edge高性能域系统架构

3