宋继强：AI计算迈入超异构时代

本文作者：英特尔中国研究院院长 宋继强博士

当我们展望下一个十年，或者更长远的未来，随着人工智能应用的愈加广泛和深入，传统的异构计算已经不能满足日益发展的人工智能计算需求，我们正在迈入超异构计算时代。

人工智能当下的蓬勃发展，是由深度学习驱动，从2012年ImageNet的突破开始，它可以分为两个阶段。如果用一个形象的比喻来说：2012年之前也做了很多年的AI研究，但它的能力还是“小学阶段”，不入大家法眼；到了2012年和2016年开始上“中学”，大家开始看一看它能不能“成人”，能不能做点“正事”。2020年之后，我们将看到AI在不同领域发挥更大的作用。

人工智能计算的分布，是非常多样性的，需要从三个维度一起考量：应用的领域、解决的问题、部署的条件。安防领域就是一个典型的例子。

同时，在真正的系统中应用AI时，它从来不是单独发生的，而是和其它的计算技术深度融合。所以，真正要完成一项任务，仅有AI是不够的，需要多种计算任务同时进行。

我们也看到，随着创新速度越来越快，设备种类越来越多，要求的迭代速度也越来越快，我们不会再有一个独立的平台。上世纪90年代到2000年的PC，2005年以后到现在的手机，就是一个独立的平台承载大量应用，但此后将不会再是这样。多样性和创新速度的要求都对芯片设计带来挑战，因为系统的设计、芯片的设计都有时间周期。

异构计算在上世纪八十年代就已出现，它是指在完成一个任务时，采用一种以上的硬件架构设计，把它们组合在一起。组合方式主要包括：一体化SoC，它的专用性最强、能耗最低、性能可能也最高，能效比非常好，但需要量很大，也就是应用范围很广，才值得去做；分体式板卡，它的优势在于灵活，想用的时候可以随意组合，但板与板之间连接的功耗、带宽速度都要打很大折扣。

传统的异构计算，已经不能满足产业应用对AI计算的需求。如下图所示，一体化SoC（红线）和分体式板卡（蓝线），分别有着比较明显的劣势。因此，我们需要迈向超异构时代。

超异构将提供更多的灵活性和更快的产品上市时间，推动计算创新发展。它包含三大要素：多架构、多功能芯片；多节点和先进封装技术；统一的异构计算软件。

在多架构、多功能芯片方面，包括了标量、矢量、矩阵、空间等多种架构。标量架构比如CPU，矢量架构比如GPU，矩阵架构比如深度神经网络的专用加速芯片，空间架构比如FPGA。

在多节点和先进封装技术方面，传统的封装就是把芯片平铺在一起，这样有几个缺点，第一是增加了面积，第二是它们之间的连通带宽还需要加速。2.5D和3D封装就是为了解决这些问题，不只是把计算芯片和内存连起来，还能把计算芯片互相连起来，同时还能把芯片像高楼一样分成几层堆起来，这就是先进封装技术。

简化软件开发是超异构的要素之一，我们需要以一个统一的软件接口，让客户编程即可扩展到CPU、GPU、FPGA和AI芯片等硬件平台。

对英特尔而言，就是要提供多样化的标量、矢量、矩阵和空间架构组合，以先进制程技术进行设计，由颠覆性内存层次结构提供支持，通过先进封装集成到系统中，使用光速互连进行超大规模部署，提供统一的软件开发接口以及安全功能，从而实现超异构计算的技术愿景。