边缘AI在智能摄像头的机会

作者/Imagination副总裁Russell James

很多人认为是英伟达做的数据训练非常成功。但随着行业逐步加深，应用逐步增多，发现仅仅在服务器端还不够的，端侧可以做极大延伸。例如，安防从嵌入式视觉系统到视觉导向的自主系统，即过去红外摄像头，保安和监控人员要看一二十个小时，现在把人眼看的部分，通过算法和数据集中到服务器端，下一步希望减少服务器的负担，在端侧——摄像头去做识别。这样做的好处，首先是可以减少网络带宽，因为网络存储等成本非常高；其次是性能，端处理回传会延时；第三是隐私性。

在智能摄像头监控方面，可用于大规模的实时分析，例如用人脸识别来进行目标跟踪，发现大型场馆入口处的人的可疑行为等，另外还可对车队和物体进行监控识别，以发现可疑的路径和物体。

市面上有很多各种方案：1.CPU尽管什么都可以做，但处理神经网络效率低，2.DSP最大的问题是有非常少的人员可以基于DSP去做编程，没有标准化和可覆盖。3.固定功能的硬化，一旦硬化后只能做一件事，远远不够产业化。4.GPU，英伟达证明了非常适合处理AI（人工智能），GPU有标准化的编程方式，但功耗较大。那么，是否有功耗非常低又非常灵活的方案？为此，Imagination推出了第5种方案：“GPU+NNA（神经网络加速器）”方案，特点是提供灵活的IP内核来达到高性能，特点是功耗低、带宽较低的场景。

近日，Imagination推出了两款PowerVR2NX神经网络加速器（NNA）内核，适合智能监控等、移动、工业等场景。名为AX2185和AX2145的内核，设计目的是在极小芯片面积上以极低功耗实现神经网络高性能计算。它们是基于Imagination革命性的神经网络加速器（NNA）架构PowerVRSeries2NX设计的，该架构可以使“智能”从云端转移至边缘设备，从而实现更高的效率和实时响应。

PowerVR Series2NX架构是完全重新设计的，旨在为移动和嵌入式平台中的高效神经网络推理提供硬件加速。其灵活的位宽可基于每一层去支持权重和数据，这意味着PowerVR Series2NX可以保持高推理精度，同时降低带宽/功耗要求。它是唯一支持16位到4位位宽的解决方案，可在较低的带宽和功耗下实现更高的性能。

嵌入式视觉联盟（Embedded Vision Alliance）创始人Jeff Bier评价道：“视觉智能为各种应用带来了令人瞩目的功能，但是其计算需求是具有挑战性的。Imagination的两款新型PowerVR Series2NX神经网络加速器内核针对性能和内存带宽进行了优化，为芯片设计人员提供了受其欢迎的选择，可以支持他们在嵌入式设备和移动设备上部署高要求的、基于深度学习的计算机视觉算法。”