北大信息科学技术学院教授
北大深圳系统芯片设计重点实验室主任   何进

 

 

　　什么叫AIoT时代？实际上它是人工智能+物联网+5G。在过去的20年至30年，从传统的互联网走到了移动互联网这么一个时代。那么接下来的20年，我们虽然已经进入了物联网时代，但实际上是从物联网逐渐地过渡到智能物联网的时代，所以AIoT就是智能物联网。

 

　　传统的物联网与智能物联网显著的区别就是要把智能引进到物联网系统当中，不仅仅是状态感知，还有信息、数据高效利用以及还要不断学习、能够自我进化，这就是AloT时代的显著特征。物联网这个概念也有了将近10年，近几年随着算力、传感技术的迅速发展，物联网时代才迅速到来。

 

　　在这个过程中有两个非常关键的技术，第一个是5G。5G会在未来两年得到大的发展，它主要解决的问题就是大数据。万物互联带来的是海量数据，这种数据是需要传输的，所以5G能够带给这样一个海量数据本身要求的宽带高速、海量数据传输低时延这样一些非常重要的特征。而仅仅有大数据还不够，还需要AI这样的人工智能，因为人工智能能够让我们海量的数据成为智能大数据，这是一个重要概念。因为只有把数赋予了智能，才能说数据是有用的数据，才能够不仅仅是拥有这些数据，而且用这些数据进行一定的推理，能进行发展趋势、价值的判断和把握。

 

　　现在Al最主要的一个代表是以深度学习为代表的算法，应该是人工智能进展最快的一个领域，这里面还有大数据处理能力。AI时代不仅仅是说我们有一个大数据，其实还有终端以及边缘层这些概念.  在这个过程当中，需要专业芯片的突破、传感器的研发以及宽带速率提升，还有流量成本的下降。

 

　　所以智能万物互联这样一个时代的基础技术架构，普通的把它分为三个层次：数据中心、边缘、终端。而每一个部分无论是数据中心本身的高能效的建构，还是边缘计算能力提高以及终端性能提高，其实它都涉及到智能万物互联时代的芯片使用。实际上，芯片是它的一个主要的技术基础。而它要达到的主要效果，我们希望至少是能够低时延。像自动驾驶这种体验的话，多少毫秒的时延都会造成重大问题。还有无论是任何一个层面，甚至是数据传输层面，无论是处理的系统，还是处理的数据量的增加，功耗都是一个巨大的挑战。落实到具体芯片里面的话，其实各个层次里面都有功耗的问题。

 

　　除了数据上云是数据中心的执行，而对于终端设备来讲，其实对成本更加敏感，还涉及到安全性。无论是智能家居还是个人隐私，我们是希望安全的。不仅仅是公有的各种各样的云的数据安全，其实个人数据也希望安全，而这些问题都是一些巨大的挑战。那么这些问题的解决，除了用软件的一些手段，其实根本的问题还是需要在硬件方面，在芯片的层次来解决。

 

　　芯片本身支撑的这个倒金字塔的结构，可以看到整个信息产业的情况，特别是刚刚讲到国内最大的一块就是消费互联网是靠芯片产业为基础的，希望我们的产业互联网、工业互联网也能逐渐成长为像消费互联网的巨大规模，能够达到这样的程度，就是以万亿作为规模的一个产值。我们中国的电信，通常认为它很大，但是目前看起来，已经被消费互联网产业大大被超越了，但也是达到几万亿的规模。中间像电子通讯产品及系统，有华为、中兴、大唐等等，他们目前是一万多亿的规模。而集成电路，2017年整个全球的集成电路产业链规模也才4000多亿美元，2018年是接近5000亿美元。大家知道，芯片是我们“卡脖子”的一个产业。2018年进口超过了3000亿美元，已经连续将近4年是超过石油的进口，而自己的自供是不到20%。所以从整个信息产业或者说数字产业来讲，集成电路占的值不是太高，才几千亿美元的概念。但实际上它支撑了上面很多万亿的产值。下面更小的是一些半导体设备、半导体材料，就是更小的产值了。可以看到芯片产业虽然总体经济规模不是太大，但是它支撑的产业是非常巨大的，所以我们把它也称为战略性、先导性、基础性的产业。

 

　　芯片的种类非常多，从应用也能够分很多种。最尖端的移动芯片已经达到7个纳米的水平，这是从技术级别来分。这当中还有10纳米、14纳米、28纳米等等一系列的东西。其实芯片最大的两款就是用于计算和储存，就类似于我们的大脑。比如说传统制造的CPU、GPU东西，这些都是属于用于计算和思考的“大脑”。那么芯片还有一个大类，可以储存很多信息，所以大脑储存的这种称为储存芯片。第一类用于思考运算的芯片，应该说我们国内也做了很多努力，但是这个相对来讲，跟我们的储存芯片相比，在投资规模和需求方面很大，但是它确实是最高端的，我们跟国际的距离更遥远一点。而储存芯片本身也体量大，在技术层面上来讲也不是采用10纳米、7纳米那么技术高，所以储存芯片是我们国内最有希望突破的一个大类芯片产业。

 

　　除此之外，还有感知，所以这里面有一个传感器这一类的芯片。还有一大类就是信息的传递，数据的迁移这种是用于通讯的，包括5G、蓝牙、无线，称为传输芯片。那么思考、存储和传输这三类芯片是最大的类型。电子产品都需要电源，其实它主要也是靠电源芯片支撑的。刚才讲到新能源最大的特点就是不稳定、间歇性，那么像国家电网这个时候也需要电源芯片能够让它平稳进入电网，其实这也是电源芯片。除此之外，还有一些比较小的驱动控制的芯片。刚刚讲的计算、思考类的芯片，还有存储的芯片都需要有驱动控制，但是这个相对来讲量比较小。最后是接口的芯片，这也是一个小类型。

 

　　存储和计算占芯片整个产值的60%。计算和存储是密不可分的，数据中心不仅仅是要储存数据，而且要计算。那么传统的计算架构里面就有很大的问题：第一，传统的架构是分开的，那我们每次计算数据时要从存储器里面取出来，然后通过数据总线送到计算CPU里面，算完了以后，结果又返回来存储到存储器里面。所以在这个时候，存储器的带宽是界定了传输快慢的关键因素。而这个带宽可以通过本身的芯片，它可以提高它的速度，但是这种基本的提高通过芯片基本尺寸的减小总是有一定限制，而且它的开销是非常大的，所以这就是一个挑战，叫存储墙挑战。第二是功耗的挑战，在存储和计算之间，需要数据来回不停的存取传输，而传输之间的功耗大于存储和计算本身的功耗。所以这两个挑战问题限制了我们现在进一步提高算力以及人工智能算法，最终在芯片上实现的一些主要的问题。

 

　　为了解决这两个问题，就诞生了一系列芯片技术的努力，包括从本身计算能力的算力提高，以及把存储速度、存储容量以及存储寿命这些方面有一些芯片产业的大发展，比如说我们现在让计算和存储靠的更近，像3D堆叠以及使用光传输等等来解决这些问题。

 

 

　　其实，人工智能芯片本质上就是把人工智能算法通过固化在芯片上，是一种加速的芯片，针对计算、存储进行加速。针对具体场景落地的人工智能芯片，比如说语音识别、图像识别、机器人等等，也属于这类加速。智能这个概念提出是1956年就提出来了，但是智能的最终体现是一些数学算法来实现的，比如反向传播算法、单层神经网络、多层神经网络等。五几年有这个概念，提出了各种各样的算法，但是最终的发展非常缓慢的原因是我们的算力不够。因为要实现这些，一是有大量的数据收集，然后你来训练，进行大数据推论，大量的数据收集训练，这就需要有大量的数据存储，还要进行大量的数据处理计算。如果芯片技术没有大规模的突破，算力不够，所以Al算法也难以真正的体现它的优势。所以说Al技术的发展已经有非常先进的一些概念和思想，但是没有大数据、物联网的出现能够收集到。当然也是信息时代的到来，导致有了大数据，有了大数据所以人工智能这些算法才能派上用场。

 

　　Al技术真正的突破是2006年在science发了一篇文章，就是把多层次神经网命名为深度学习的方法并进行了验证。而且在那个时候，CPU技术已经有了很大的进步，所以算力足够的时候，能够训练足够的数据，数据训练以后再加上这个网络能够拿来进行一定的预测和推理，所以这个时候才是真正可以使用。它的最终体现还是要通过芯片的方式来实现，目前来讲，人工智能的实现应该是跟芯片连在一起的。后面陆陆续续出现了，从CPU到GPU以及AlphaGo，一系列的历史性的转折点以及我们国内的5G以及华为启用的芯片，能够把人工智能镶嵌到芯片里面去并产业化，也是随着芯片技术不断进步，让它有个不停的发展过程，能够实现不同的功能。

 

　　人工智能的芯片从本质上讲分了三个大类，从架构上来分，也可以从应用来分，无论是训练和推理。从本身算力的价值来讲，就是从传统的CPU到GPU。GPU最大的优点就是并行处理，使效率大大提高，然再过渡到FPGA，因为它是可编程的模式，会更方便。那么从CPU到GPU到FPGA，它都不是针对一个可应用的场景。人工智能发挥它的作用是最后场景落地才最重要的，比如说语音识别、图象识别，所以能够发挥到针对某一个应用场景落地进行人工智能设计，可能开发这一类人工智能芯片应该是最有效的，那就是ASIC。

 

　　国外主要是我们知道的一些大公司在开发，主要是加速，包括算力加速还有储存加速，这一类的人工智能芯片，包括英伟达、英特尔，大家可以看出来这类大部分都是数据中心采用的芯片，极少量的用在智能驾驶方面，这也体现出目前国外人工智能芯片主流的主要还是极少量的用于场景落地，比如说自动驾驶，而大部分还是数据中心提高算力。我们看看从CPU到GPU以及到Google的TPU，到后面的专门针对云的，逐渐出现了边缘计算的TPU，所以这个是走在AI三个层次的第二个层次。那么针对第三个层次，就是落地的场景，就是用于终端，用于能够移动的电子设备来讲，这方面目前来讲还是比较少的，目前Al技术及芯片基本上就是数据中心或自动驾驶采用，仅仅有华为用在手机上的图像识別之终端Al芯片。

 

　　国内最主要的代表就是寒武纪以及华为海思麒麟Al芯片。寒武纪主要开发的，他的目标是用到手机终端以及其他的用途量非常大的终端。华为有两款Al芯片，数据中心或者手机终端，国内很多AI芯片公司都是针对具体应用场景来开发的，而不是根据架构来分类的。AI芯片也是这么几年才刚刚兴起的，如果传统研究算法的人，找一家芯片公司结合在一起，也能成为一个AI芯片的公司，但是最终能够量产、场景能否落地才是关键的地方，所以说这个Al芯片产业刚刚处于发展阶段，有巨大的潜力。

 

 

　　刚才我前面讲的是算力的，计算思考的芯片。芯片产业另外第二个大部分也是一个非常规模巨大的，就是存储芯片。传统的存储芯片比如SRAM和DRAM就不讲了，今天我们会讲一些比较新的东西。我这张表比较了一些传统芯片，包括写的内耗、写的延时、读的延时等等，还有单元的尺寸进行了比较。存储器我们有很多指标来衡量，比如能耗、寿命、单元尺寸的大小、读写速度等等。主要的发展方向，第一个就是数据不太容易丢失的这种，这是一种。

 

　　另外一种就是超高速和低能耗的以及更大的储存能量。 现在比较热门的就是可变电阻的存储器（RRAM），国内的中科院微电子所是这个类型的主力。他们希望能够实现产业化，但是最先来讲是作为一个存储芯片来发展的，但是这几年这个存储芯片显示出来一个更好的潜力，就是人工智能芯片有一类叫内脑的芯片，相对于传统电子器件，它是多阻的状态，所以可做。可变电阻随着电压的增加，不停的变，会有不同的台阶，就使它有多个平台出现，就会形成多值逻辑计算，这个效率会高的多。目前新芯微电子正在开发这样的芯片。它的结构本身它不仅仅是存储，还有多制的特性，可以能够作为逻辑计算单元使用，这就提到后面存算一体化的芯片，这是一个基本的路线。

 

 

　　冯诺伊曼的架构就是由于我们的计算和存储是分离的，而中间是通过数据传输，而这之间就导致了两堵墙，存储墙和功耗墙，存储和处理之间存在严重的不匹配。那有没有一种办法让存储和计算更好的匹配？就是新型的存算一体化的芯片，这也是人工智能一个主要的芯片方向。因为我们用到边缘和终端的时候，希望它既有一定的计算能力也有一定的存储能力。所以存算一体化这类的架构与传统的冯诺伊曼的架构放在一起，它的功耗会有显著的降低。

 

　　通用的高速缓存的存算一体MPU的模式，会把计算和存储、控制放在一个单元里面，组成一个大的阵列。存算一体化芯片就是在存储当中进行计算，所谓IMC这样的类型，所以在内存里面完成了基本的逻辑运算，第二个存算一体化的芯片也是在内存里面完成运算。使用传统的方法也是可以，但是这种计算有它的缺点，就是难以实现大阵列的计算，同时保证它的精度。

 

 

　　芯片里面还有一个类型是光电芯片，分三类：传输、传感、赋能。光电传输芯片其实最关键的问题就是传统的传输方式，比如说信号在传统的芯片里面，以前用的铝现在用的铜，而铜在高速传输里面也会出现，因为金属它有损耗，那么最终演变出光电传输芯片。在这个里面我们国家有一个重大战略，就是第三代半导体。用第三代半导体，无论是计算芯片还是传输芯片，第三代半导体本身它的优点就是迁移率高，所以传输方面会有更大的优势。华为和中兴被美国列入管控的名单，相当一部分是光电芯片。现在发展比较热门的一类，就是硅基光电芯片。其实这里面涉及到很多内容，里面有光接收器、光波导、发射器、信号源等等。

 

　　光电传输芯片还有一类是传感器芯片，比如说数据、图像识别主要是传感的，特别是图像传感，它也是经历了很多的发展过程。现在最热门的是3D图像传感，除了激光的那种模式以外，大家都知道激光也可以实现3D图像，但是总的来讲它是不方便集成的。最后一部分是能源采集，比如说太阳能能源采集，还有通过网络从空中的能源采集，也是属于赋能的芯片。赋能芯片最大的问题，终端需要待机时间长，最好能够自动供电，所以这个也是主要的发展方向。还有一类是低功耗芯片，采用唤醒式:  一个事件发生以后就可以把它唤醒，没有这个事件它就处于睡眠状态，这样可以实现低功耗。低功耗的还有一个是MCU，能够达到超低功耗。

 

 

　　大家都知道5G，高速、大容量、低延时，包括人与人、人与物、物与物之间的通信，这三大应用场景都是有巨大前景的。针对不同的应用场景，芯片方面也有不同的要求，所以也要落地开发不同的芯片。

 

　　谢谢大家！