边缘AI在智能摄像头的机会
作者/Imagination副总裁Russell James
很多人认为是英伟达做的数据训练非常成功。但随着行业逐步加深,应用逐步增多,发现仅仅在服务器端还不够的,端侧可以做极大延伸。例如,安防从嵌入式视觉系统到视觉导向的自主系统,即过去红外摄像头,保安和监控人员要看一二十个小时,现在把人眼看的部分,通过算法和数据集中到服务器端,下一步希望减少服务器的负担,在端侧——摄像头去做识别。这样做的好处,首先是可以减少网络带宽,因为网络存储等成本非常高;其次是性能,端处理回传会延时;第三是隐私性。
在智能摄像头监控方面,可用于大规模的实时分析,例如用人脸识别来进行目标跟踪,发现大型场馆入口处的人的可疑行为等,另外还可对车队和物体进行监控识别,以发现可疑的路径和物体。
市面上有很多各种方案:1.CPU尽管什么都可以做,但处理神经网络效率低,2.DSP最大的问题是有非常少的人员可以基于DSP去做编程,没有标准化和可覆盖。3.固定功能的硬化,一旦硬化后只能做一件事,远远不够产业化。4.GPU,英伟达证明了非常适合处理AI(人工智能),GPU有标准化的编程方式,但功耗较大。那么,是否有功耗非常低又非常灵活的方案?为此,Imagination推出了第5种方案:“GPU+NNA(神经网络加速器)”方案,特点是提供灵活的IP内核来达到高性能,特点是功耗低、带宽较低的场景。
近日,Imagination推出了两款PowerVR2NX神经网络加速器(NNA)内核,适合智能监控等、移动、工业等场景。名为AX2185和AX2145的内核,设计目的是在极小芯片面积上以极低功耗实现神经网络高性能计算。它们是基于Imagination革命性的神经网络加速器(NNA)架构PowerVRSeries2NX设计的,该架构可以使“智能”从云端转移至边缘设备,从而实现更高的效率和实时响应。
PowerVR Series2NX架构是完全重新设计的,旨在为移动和嵌入式平台中的高效神经网络推理提供硬件加速。其灵活的位宽可基于每一层去支持权重和数据,这意味着PowerVR Series2NX可以保持高推理精度,同时降低带宽/功耗要求。它是唯一支持16位到4位位宽的解决方案,可在较低的带宽和功耗下实现更高的性能。
嵌入式视觉联盟(Embedded Vision Alliance)创始人Jeff Bier评价道:“视觉智能为各种应用带来了令人瞩目的功能,但是其计算需求是具有挑战性的。Imagination的两款新型PowerVR Series2NX神经网络加速器内核针对性能和内存带宽进行了优化,为芯片设计人员提供了受其欢迎的选择,可以支持他们在嵌入式设备和移动设备上部署高要求的、基于深度学习的计算机视觉算法。”
评论