英特尔：以边缘智能带动AI应用在各个行业落地

随着一成式AI和大模型的出现，很多人预测说AI将会像电力一样变成无处不在的技术。AI技术的应用也并非只是集中在服务器和云端的。在云端实现的AI，比如现在非常火的大模型或者生成式AI，动辄就是几千上万甚至是几十万张显卡放在一个数据计算中心来提供这样的算力服务。但是这些算力中心一个是平台规模比较大，二是离用户也比较远，想要使用它需要通过一些软件服务商，把用户的需求通过翻译送到这上面去，时间又慢，效率又低。真正从物联网或者说从实际应用角度来看，如果说想把AI应用到每一步，一定是云计算、边缘计算、终端大家一起发力，才能真正有利于整个物联网或者说行业应用的场景。

英特尔长期致力于边缘侧应用的智能化服务，英特尔网络与边缘事业部中国区行业销售总监谢青山表示，英特尔最大的期望是能够把在电脑和服务器上成功、高算力的芯片推广到其他各行各业中，让各行各业的使用者和我们的用户能够从中受益。相比于通用AI的广泛应用，英特尔在智能边缘应用更多的关注点放在以解决方案推动行业应用落地上，比如在智能零售、智能工厂和智慧社区等方面，近两年则是在教育和医疗方面取得不少突破，从去年开始英特尔把智能交通也作为一个重点关注的领域。

智能零售是人工智能应用比较成熟的一个行业，也是大部分消费者都能亲身体会到智能边缘技术带来体验变革的行业。其实AI 在整个零售业应用最核心的就是如何提高效率。不管是数字人的生成可以帮助产品展示还是机器人和大模型能帮助做客服都能在一些零售门店得以实现，但是所有供应商的第一个问题就是这些东西到底要增加多少投入？这些投入到底能不能覆盖掉传统的成本。如果说投入还没有相应的产出大，我为什么要上这些技术，这是所有人都会提的核心问题。另外一个问题就是数据的安全性和时效性。如果说我要把所有数据都要转到云平台上才能完成这些处理，那这些数据被泄露了怎么办？

一个行业如果要用AI 技术、大数据技术、大模型技术推动行业解决方案，有一个非常重要的关键点就是这些数据从哪里来。所以现在从边缘智能的应用技术角度来讲，英特尔尝试先从硬件和平台的角度解决这些问题，让用户可以从技术层面上有一些基本的保证。具体到英特尔来说，首要的是希望把AI 算力做得更高效，所谓的更高效并不意味着算力特别大。因为在真正的行业应用场合，很多地方是在一线边缘侧，功耗、成本、时效有限制。边缘智能应用并不是说算力越大越好，一定要做合适的算力才可以让用户满意。当然还有系统的安全可靠、运算平台的丰富以及行业用例。智能应用落地也不是有了简单算力就可以做到，方案商一定要跟一线的应用场景和一线的销售人员做良好的结合，才可以做到全系列的高效管理。只有行业经验和人工智能应用真正结合起来才能保证带给客户边缘端应用体验的提升。

轨道交通在中国市场近年来蓬勃发展，关于轨交数字化，用户给英特尔和合作伙伴提出来一个最大的目标是，要安全高效同时可持续发展。所谓可持续发展，包括系统要完善地运行，运行成本要降低，包括未来不光是闸机，设备的维护也要可持续。英特尔与合作伙伴共同打造了交控机概念，交控机最核心要实现的事情就是把算力部署到我们每一个现场设备中。这一两年大家看到的比较热门的话题都是说人工智能算力又出现了多少，做ChatGPT也好，生成式AI也好，需要大型服务器算力来解决这些问题，不管是CPU 还是GPU。像美国的一些大的互联网公司都是在几十亿地投资在他们的算力上。这是一方面——人工智能技术对核心算力需求的增长。

但是倒过来看，在我们每个人身边的设备上，算力需求也在快速增长。从底层逻辑来讲，交控机就是我们希望做好的算力可以通过硬件、软件的平台，能够从成本、使用便捷性、维护的角度，都可以部署到我们整个设备的体系当中，渗透到整个体系中的每一个方面。大家可以看到，我们现在的用户做的交控机绝不是简单的一个笔记本或者是服务器，甚至是手机，大家长得都差不多。为了让用户使用得更好，系统更加完善，可以看到有各种各样的设备出来，这就是我们和我们的合作伙伴想做的事情。

随着各种技术的出现，包括像人工智能技术、毫米波雷达、激光雷达等一些图像信息出现，有了传感器的高性能提升，有了数据采集和存储的大规模容量的提升，一定需要有一个高算力来支撑它，而英特尔就提供了这样一个设备。除了提供硬件平台之外，我们还提供了一个很好的软件平台叫做OpenVINO，这个平台可以让硬件、软件、算法及应用有机结合起来。开发算法平台的人不用太多关注于应用，开发应用的人不用过多关注算法如何和硬件匹配，硬件如何把成本做到最低。这些事情都由OpenVINO 来做，有了OpenVINO 的加持，当大家在实际设备上有人工智能算法需求的时候，他就会很容易找到合适匹配的算法、硬件供应商以及软件平台供应商。通过把这几种人工智能最终落地所需因素有机结合起来，就能让我们最终用户的产品快速推向市场，这是英特尔公司最近几年一直想做的事情。

（本文来源于《EEPW》2024.5）