英特尔张宇谈如何在边缘侧建一个城堡

英特尔张宇谈如何在边缘侧建一个城堡
2021-07-19 12:47:34 新浪科技综合
英特尔张宇谈如何在边缘侧建一个城堡

  来源:IT时报

  文/王昕

  英特尔曾是通用芯片的王者,wintel架构服务了整个时代的数字化进程,而在日益多元化、复杂化、网联化的物联网和边缘世界,英特尔如何搭建起一个全新的生态城堡?

  近日,英特尔公司高级首席工程师、物联网事业部中国区首席技术官张宇博士在接受《IT时报》专访时表示,英特尔的愿景是希望在一个接口、一个平台等一站式软件和生态底座上,全行业用户可以对接英特尔极其丰富的计算、通讯、存储资源和产品,帮助用户搭建的是一个从云到端的智能化生态链。

  张宇强调,英特尔是业界唯一一家涵盖CPU、GPU、FPGA和各种人工智能加速芯片四种主流计算架构的半导体公司,而建立在此基础上的异构计算模式和生态将无比丰富和宽广,可以适应物联网和边缘侧极为多样化的应用场景需求。从某种意义上来说,英特尔的物联网和边缘侧“武器库”是最丰富、最强大的。

  异构是边缘侧的发展方向

  据IDC预测,到2025年,全球75%由企业所产生的数据是在边缘处理的。这些边缘侧数据收集上来之后是不是都要传到数据中心去处理?

  张宇认为,这正是边缘计算大行其道的机会,边缘侧的计算形态不再单一或统一,不同形态的边缘设备不断涌现,这其中既包括传统意义上的嵌入式设备,也包括更复杂的边缘计算节点,甚至边缘云设备的出现。如果说通信网络连接海量边缘设备,那么在通信网络的上游或下游都可能部署不同类型的变换算力。

  从中不难看出,在物联网场景的边缘侧,算力需求发展更为丰富,甚至在边缘侧就构建起一个小型的、五脏俱全的“云边端”边缘生态,这将是万物互联的计算生态走向复杂化、场景化的重要步骤,而对于终端侧的企业甚至普通老百姓来说,边缘侧愈来愈高效的结算结构和能力将为他们带来更直接使用体验提升。

  在丰富的终端传感器和边缘云架构基础上,张宇认为,通用处理器+人工智能专用加速芯片的异构计算架构会是未来的发展方向,同时,云原生等软件技术将不断在平台上进行灵活调度和迭代,以实现负载的最优化整合。

  张宇举例,智能摄像头如今已成为最普遍的终端侧设备之一,一般来说,摄像头的整机功率是10-15W,在这10-15W当中,能够分给一个人工智能加速芯片的功耗只有2W,如何在2W的功耗下完成一路高清视频的人工智能处理,对整个业界来说都是一次挑战,“如果一颗人工智能加速芯片能够专门针对与现有的深度学习里的卷积神经网络里最基本的运算进行硬件加速,那么就能实现最佳功耗比,成为最适合的架构”。

  多层次、一站式软件底座

  在整个物联网生态里,软件开发人员的能力和专注点各不相同。对开发者来说,“化繁为简”是一件非常重要的工作。

  张宇举例,对于App应用开发者来说,他们并不关心手机芯片的计算原理,而是更多地在iOS或Android提供的SDK之上编写程序;而对于面向解决方案和复杂场景的企业发开人员来说,他们追求的是极致的高性能、低延时,他们需要在底层接口上设计一个负载最优的底层软件解决方案。

  张宇介绍,英特尔在软件上的思路是提供有层级的、一站式的解决方法。英特尔希望一个软件开发人员利用一个接口、一个平台就能够实现对CPU、GPU和各种加速芯片的编程。为此,英特尔提出了OneAPI项目,在OneAPI项目里头,它包含一个跨平台的编程语言DPC++,利用DPC++可以实现不同架构底层编码的复用。开发人员利用OneAPI工具包,就可以利用一个基于开放的、统一的,基于行业标准的编程模型使用不同架构的英特尔产品。

  而OpenVINO工具套件是更上层的软件工具,张宇解释,OpenVINO有点类似于一个编译器,可以帮助开发者高效地将各种各样开放的人工智能框架放到英特尔产品上进行网络模型的设计和训练,“OpenVINO与OneAPI相配合,能够将开发人员在开放的人工智能框架上,所设计和训练好的网络模型部署在不同的英特尔的硬件平台之上去执行推理的操作”。

  目前,OpenVINO和OneAPI都已经开源。张宇说,英特尔希望把OneAPI做成一个通用、开放,满足行业标准的这样一个接口,而OpenVINO也基本保持着一个季度一个新版本的迭代速度。

  边缘人工智能发展的“三个阶段”

  张宇认为,物联网边缘侧的人工智能发展将会分为三个阶段。

  第一,边缘推理阶段。由于边缘算力有限,所以大量训练和存储需要依靠数据中心来完成,训练完成的模型被推送到边缘端,再进行推理操作。该模式的不足是,训练发生在后端,模型更新频率受限,无法做到高速迭代,而在工业物联网等环境下,如果遇到数据样本有限的环境,就会显得捉襟见肘。

  第二,边缘训练阶段。在边缘,利用小样本数据达到较好的训练效果,需要注意的是,边缘训练并不是把云端的训练原封不动的照搬到边缘,如何通过实际数据基础衍生出更多可用可用于训练的样本数据,是目前业界还在探索的工作。非常重要的一点是,边缘训练解决了很多企业对数据安全的担忧,更多数据在本地处理让企业更加大胆地使用自己的数据。

  第三,自主学习阶段。当前,人类仍然在人工智能里扮演还是很重要的一个因素,关键在于人定义了网络模型结构,并根据使用场景固化了网络模型结构,这让人工智能仍存在一定局限性。未来,机器将可以根据人的意图自主设计网络模型结构,自主利用所收集到的数据来训练网络模型,得到最终的结果用于推理实践。

  张宇向《IT时报》记者表示,目前业界已实现第一阶段目标,第二阶段的实践也已经开始,预计第二阶段会花3-5年时间不断成熟,“自主化学习,Auto Machine Learning的概念已经被业界提出,整个业界也认可这个发展方向,但机器自主学习的出现将在3-5年后,目前一些标准理论的研究现已经开始起步”。

原标题:英特尔张宇谈如何在边缘侧建一个城堡

“如果发现本网站发布的资讯影响到您的版权,可以联系本站!同时欢迎来本站投稿!