机器学习入侵边缘处理-机器学习在嵌入式端具体如何实现.docx

??

?

??

机器学习入侵边缘处理机器学习在嵌入式端具体如何实现

?

??

?

?

?

?

?

?

?

???

?

?

?

?

?

?

?

作为移动设备之后的第五波计算浪潮，边缘计算受到空前关注。它可以参与到生活的方方面面，包括居家、办公、城市、工厂等，使智能生活更安全、效率更高。

2020年，Gartner将边缘计算列为十大战略技术趋势之一。Gartner指出，边缘计算是一种拓扑结构，信息处理以及内容收集和传递被放置在离信息源更近的位置，其核心逻辑是保持流量本地和分布式以减少延迟。

这将包括物联网的所有技术。边缘赋能将着眼于这些设备的增长方式并为智能空间奠定基础，并使关键应用和服务更接近使用它们的人员和设备。根据预测，到2023年，网络边缘的智能设备数量可能是传统IT领域的20倍以上。

边缘处理——数十亿量级的蓝海市场

边缘计算何以实现这样的增长？恩智浦（NXP）高级副总裁兼边缘处理事业部总经理RonMartino指出了背后的三大驱动因素：第一，它能够降低总体拥有成本，不需要总是进行云接入，从而降低本地成本。第二，它可以保护数字隐私，提高安全性。第三，它能够减少应用延迟，支持实时应用，增强本地体验质量。

随着边缘计算与传统分布式计算架构的深度融合，边缘处理——正在悄然酝酿一场变革。NXP作为在安全、连接、嵌入式领域耕耘多年的半导体厂商，将如何布局边缘处理的广阔市场？又会进行哪些变革？

RonMartino表示，边缘处理市场可以看作一个分布式智能金字塔。底部是包括工业和物联网在内的应用边缘，其中工业边缘包括工厂自动化、基础设施、交通运输、医疗等，物联网边缘包括智能家居、消费及可穿戴领域，这是边缘处理规模最大的、十亿量级的大市场；中部是网络边缘，主要支持5G本地网络及数据集成，是一个千万到亿级的市场；最顶部则是数据中心，以云服务为主，大约是百万量级。对边缘处理的布局，NXP的应用主要包括三大类：网络边缘、工业边缘、物联网边缘，也就是金字塔底部和腰部规模最大的两块。

机器学习入侵边缘处理

几年前，人们普遍认为机器学习、深度学习只能通过由网关、边缘服务器或数据中心执行的边缘训练和推理，在高端硬件上完成。如今，情况已然发生了变化，处理器不必提供每秒数万亿次操作（TOPS），也能执行机器学习，只要使用带有嵌入式机器学习加速器的微控制器，就能在边缘设备上进行机器学习。

内置机器学习加速器的微控制器代表着物联网的下一阶段：在生产数据的源头，例如麦克风、摄像头和监控其他环境条件的传感器中引入智能计算，只需极低的成本和极低的功耗，这些设备就能出色地完成机器学习，仅在绝对必要时才连接到云。

目前，机器学习在边缘计算中的应用已经比较普遍，有55%的开发人员表示他们当前或未来工作需要机器学习，早期的采纳者已经开始探索更有意义的用例，未来则会被越来越多的开发者接受，也将使得机器学习的开发鸿沟得以消弭。

在NXP看来，在嵌入式开发中引入机器学习，当务之急是让更多的开发者用起来。NXP与Au-zone合作开发机器学习工具包，并与Arm合作，使ArmEthos-U65microNPU提供可扩展且高性能的机器学习用例。通过合作，加强NXP对eIQ机器学习开发环境的支持，帮助用户部署优化机器学习的模式，并且在全球范围内优化机器学习能力，直到MCU的层级。

不过，机器学习在嵌入式端具体如何实现？毕竟设备资源受限，对功耗、带宽、存储、模型尺寸等都有完全不同的要求。

NXP边缘处理事业部副总裁兼IoT业务线总经理于修杰表示，很多客户其实都关心有没有可能免费在设计中实现人工智能或机器学习，其实指的就是用CPU来运行。NXP的eIQ工具可以部署类似这种模式，例如在家居场景中，由于人是交互对象，因此在推理方面需求不高，在机器学习方面就无需购买加速产品，从而可以降低成本。

此外，微处理器中应用处理器和神经网络加速器的发展速度十分迅猛，更完善的解决方案也层出不穷。总体趋势是将更多以人工智能为中心的功能（例如神经网络处理）与应用处理器一起整合到微处理器中，同时避免功耗或尺寸显著增加。

不过，目前尚处于机器学习发展的早期，会有很多迭代和战略微调。他强调，机器学习和人工智能应用，在选择处理器方面不可能做到一刀切，取决于市场对于应用的需求和对功耗、成本的容忍度，每种技术都能找到自己适用和擅长的领域，因此未来还有很大的继续创新的空间。NXP将通过可扩展的处理器，支持从简单到复杂的机器学习用例。

EdgeVerse是NXP的边缘处理平台，通过嵌入式处理产品组合，结合安全、软件和整体解决方案来加速边缘计算。具体包括MCU、跨界处理器、应用处理器以及高端微处理器等多系列的产品组合。