众厂商谈边缘AI的技术与产品策略

高精度的FPGA架构

　　无论是作为协处理器、独立的处理单元亦或是简单的桥接，只要客户寻求的价值定位是创新、快速上市、低延迟、灵活的IO以及可编程性，FPGA就有其独特的优势。灵活IO可以在不同的应用场景支持不同类别的传感器，甚至处理多个传感器交互和融合。AI目前还在初步阶段，莱迪思预计神经网络引擎需要可编程性持续演进和优化。通用的MCU功耗和延迟一般会较高，加入固化的加速器虽然可以改善当下的性能，在未来几年内不能持续优化的缺陷会是个很大的限制。在新一版的CNN加速器IP，莱迪思针对了神经网络的需求来优化了DRAM存储器带宽，使得ECP5的推理性能最多提升至2倍。

　　随着AI不断火热，IoT和智能传感器市场将持续增长。物联网世界的多样性也将是FPGA灵活架构大放异彩的机会。因此在超低功耗、低成本、小尺寸的iCE40 UltraPlus上，莱迪思也推出了轻量化CNN来满足更灵活的性能、精度、功耗的平衡与取舍。尽管轻量化CNN比之前推出的二值神经网络(BNN)功耗稍高，但是其精度和性能也更优秀，CNN在业界的接受度也比BNN更为广泛。

更高性能的边缘应用

　　Achronix的FPGA产品和技术专注于边缘应用上的多种人工智能(AI)需求，例如汽车传感器融合、目标检测和识别、AI和机器学习，以及360度环绕视图系统等需要在边缘上本地处理数据的应用。

　　可编程逻辑提供了使计算更加以数据为中心的能力。虽然传统的处理器都要求数据通过复杂的高速缓存层级被送到其流水线中，而可编程逻辑则能够构建数据流水线。借助由定制逻辑电路和数字信号处理器(DSP)引擎组成的数据单元来在数据通过时操控它们，数据可以从一个节点到另一个节点无缝流动;每个单元都已准备好把数据转发到需要它们的下一个节点。随着需求的变化，其中的逻辑阵列可以轻松地重新连线形成新的配置。与更适合处理控制密集型代码的微处理器相比，这种逻辑阵列可以为以数据为中心的应用提供更好的支持。然而，独立FPGA芯片通常会产生更大的功耗，这是因为需要将数据频繁地移入和移出更专用的ASIC芯片中。

嵌入式FPGA(eFPGA)技术提供了一种方法，可以在一个封装芯片中满足边缘计算应用的能效、性能、延迟和面积限制。结合eFPGA技术，可以把平时部署在独立的ASIC芯片中的常用功能在定制硬件中实现集成，以带来更高的性能和密度。对于机器学习应用，这些功能可以是用于卷积内核或最大池计算的专用处理器阵列。通过在同一芯片上集成可编程逻辑和定制逻辑，可以避免在芯片外传输数据，从而节省大量功耗。

　　有关开发环境和技术方面内容如下：

　　Speedcore™嵌入式FPGA：它是经流片验证的高密度、高性能eFPGA半导体知识产权(IP)产品。

　　Speedchip™ FPGA合封芯片：FPGA合封芯片专为嵌入到先进的系统级封装(SiP)解决方案进行了优化，如通过硅介电层或有机基板实现了2.5D封装。

　　Speedster®22i FPGA：这是一系列高性能和高密度FPGA芯片，带有适用于通信应用的嵌入式系统IP，包括10 G / 100 G以太网、100 G Interlaken、PCIe Gen3×8和DDR3等。

　　PCIe Accelerator-6D加速板：它们是具有业界最高存储器带宽的、基于FPGA的PCIe附加卡，适用于高速加速应用。

　　Achronix®的自动化设计(CAD)环境被称为ACE，它与行业标准的逻辑综合工具配合使用，使FPGA设计人员能够轻松地将其设计映射到Achronix FPGA芯片中。

支持生态系统与AI的开发和应用

　　Imagination的业务是为半导体芯片提供必要的内核构建模块。Imagination主要以自己的嵌入式图形(GPU)技术和神经网络加速器(NNA)技术而闻名，并将这些技术授权给全球领先的芯片供应商。他们的半导体芯片广泛应用于多种产品和服务，因此Imagination在市场中拥有非常独特的地位，因为Imagination可以支持整个生态系统参与人工智能(AI)的开发和应用。

　　GPU和NNA现在是边缘AI的必要元素。随着众多企业开始认识到在各种任务(从自然语言处理到图像分类)中应用神经网络的潜力，引入人工智能元素的产品数量也开始稳步增加。同时，这些任务的处理正在从传统的基于云架构转移向设备端本身，基于硬件的专用神经网络加速器现在可嵌入至半导体芯片中，以实现本地的AI处理。从可监控前方道路的先进驾驶辅助系统(ADAS)到虚拟助手等声控的消费性电子产品，关于集成的、基于神经网络AI的机会正在向多个细分市场延伸。

　　不可否认，AI正在成为许多应用的必要元素。但是，仍然有很多挑战。其中之一就是在边缘和云之间平衡处理负载，并找到放置AI本身的最佳位置。例如，边缘AI可用于消费性设备上的本地语音识别，比如识别“唤醒词”或简单指令，但是依然有必要在云端进行大部分的语音AI处理，以便利用那些无法在设备端存储的庞大知识库。现在许多设备都标榜带有AI，但实际上，除了依靠云端去给人智能的印象以外，就仅仅只是在本地做了简单的模式匹配和识别而已。

　　半导体工艺不断演进，为在边缘设备上进行更多的AI处理创造了机会。例如，Imagination将看到能够监控特定事件的智能安全摄像头。它们将使用边缘AI处理来识别视频流中的特征，例如道路上的车辆或镜头中的人脸，然后触发特定事件，例如计算车辆的数量或允许授权人员访问。他们甚至可以通过减少“误报”的数量来节省成本，因为摄像头中的边缘AI可以识别正常行为和可疑行为之间的差异。

　　另一个挑战是，尽管AI应用的数量在不断增加，但这并不一定意味着集成了AI加速功能的SoC是所有应用场景的前进方向。的确，如果Imagination考虑AI去覆盖大部分细分市场，那么由于使用该技术的各种产品具有截然不同的工艺要求，碎片化会自然而然地发生。碎片化的市场对于使用专用SoC提供服务具有挑战性，所以“一应俱全”的方法不会始终适用。虽然诸如手机或ADAS(高级驾驶员辅助系统)等一些市场为SoC供应商提供了大量机会，但许多以人工智能应用为目标的市场将自然呈现出低销量前景。例如，一些产品可能需要AI进行语音处理或图像识别，但不是两者都需要;同样，智能家居供应商不大可能只为将AI功能嵌入他们的控制面板而去使用原本为智能手机设计的SoC，因为这不符合成本效益。这个难题的解决方案就是打造专用的AI芯片，其可以作为辅助芯片与主应用处理器一起使用，去卸载通常由主应用处理器中的NNA内核处理的AI推理任务。这样做的优势是SoC供应商可以提供一系列具有不同性能水平的边缘AI芯片;同时，原始设备制造商(OEM)可以根据他们希望在自己的特定应用中所处理的AI处理开销来选择适当地扩展产品解决方案。

RISC-V适合AI、物联网等创新

　　有人预言，RISC-V或将是继Intel和Arm之后的第三大主流处理器体系。实际上，三年前RISC-V基金会刚刚成立，如今已有200余家会员，会员遍布27个国家，得到了来自中国、印度、俄罗斯等国政府、高校、企业界的支持。RISC-V为何在短时间内受欢迎?

　　相比Intel和Arm，RISC-V有三大特点。

　　首先，从微处理器角度看，RISC-V的Core(核)设计得非常精巧、简单、有效，允许运行基本的操作系统。

　　其次，允许可扩展，由非营利组织——RISC-V基金会运营的，不像过去Intel和Arm等是由一家公司运营的，RISC-V核是大家(Community)运营的，只要加入基金会，成为基金会成员，就可以用。RISC-V的可扩充性允许开发者加自己新的指令，而且允许开发者的设计是开源的，也可以不开源，也可以用来赚钱，也可以做研究……这种灵活的模式带来了微处理器的革命。实际上，RISC-V是第一个硬件开源的，开源了ISA。ISA指令集是硬件与软件的接口。

　　第三，带来很多创新。在微处理器产品里，从IT和IC领域里，很长时间里被Intel垄断的，之后有Arm。由于知识产权的限制，其他公司不能使用Intel或Arm的ISA指令来做自己事情，除非得到授权。因此，多年来，很少有开发者在架构方面做创新。不过，RISC-V开了一扇门，允许公司、高校师生、研究机构等做产品或进行研究。有个形象的比喻，过去只有一种榔头，做任何事都要用这个榔头，现在允许大家开发各种各样的榔头。

　　值得指出的是，RISC-V并不是比Intel和Arm好。因为Intel和Arm也是非常优秀的公司，投入了大量资金和努力，开发了很好的产品。区别在于那两种芯片/架构是私人所有的，不是开放、免费的，RISC-V是第一个在微处理器领域里把ISA指令架构开放，这是一场革命，带来了全新的商业形态和创新环境。

　　原来的商业模式，Intel和Arm把产品做好了，无法改变。但市场上应用场景在变，目前已经超越PC和手机时代了。在很多应用场景，例如AI、物联网和区块链等有很多创新的应用，对架构有新的要求，老是用一套做是不行的，RISC-V允许核本身不动，基本ISA由community(社区)统一管理，允许加不同的东西进来，这样可以把很多事情做好。

　　RISC-V的ISA是开放和免费的。有三种模式：1.有可能开源社区获得免费的设计，像Linux;2.商业模式方面，有的是像致象尔、SiFive、晶心科技等公司，利用ISA设计芯片，销售IP和设计，出售证书(licensing)或royality(版权);3.卖芯片。由表1可见，Arm不做芯片，只做设计。Intel不卖设计，只出售芯片。RISC-V在这三个方面都可以。

　　参考文献：

　　[1] 任泽坤.芯片厂商引领广电的人工智能化[J],电子产品世界，2017(10);19~23

　　[2] 王莹.人工智能的进展及发展建议[J],电子产品世界，2017(2);19~23

　　[3] 有鹏，刘勇，杨林莉，等. 基于物联网的图像监控系统[J],电子产品世界，2017(7);37~40

　　本文来源于《电子产品世界》2018年第12期第11页，欢迎您写论文时引用，并注明出处。