高通发布7纳米专用AI芯片Cloud AI 100，性能碾压业界10倍

编者按：本文来自公众号“新智元”（ID：AI_era）。36氪经授权转载。

近日在旧金山举办的年度Qualcomm AI Day大会上，高通发布了三款面向智能手机、平板电脑和其他移动设备的新系统芯片。此外，更重磅的是，高通还宣布了一款专为边缘计算设计的新产品：Qualcomm Cloud AI 100。

高通Cloud AI 100采用7nm工艺，具有高度可扩展性、专为AI推理设计，将于2020年正式推出产品，样片将在今年晚些时候推出。

虽然高通尚未公开芯片性能或架构方面的细节，但它声称，Cloud AI 100的性能比目前业界最先进的AI推理解决方案高出10倍以上。

Cloud AI 100集成了一系列开发工具，包括编译器、调试器、分析器、监视器、服务、芯片调试器和数字转换器。

此外，Cloud AI 100还致力于支持领先的软件堆栈，包括ONNX、Glow和XLA，以及各种机器学习框架，包括谷歌的TensorFlow、Facebook的PyTorch、Keras、MXNet、百度的PaddlePaddle和微软的Cognitive Toolkit。

高通估计Cloud AI 100的峰值性能能达到骁龙855和骁龙820的的3至50倍。

高通声称，与传统的现场可编程门阵列(FPGA)相比，Cloud AI 100在推断任务方面的平均速度要快10倍左右。此外，以高性能芯片常用的一个性能指标——每秒tera操作(TOPs)来衡量的话，Cloud AI 100的运算速度可以“远远超过”100 TOPs。(相比之下，骁龙855最快只有约7 TOPs。)

高通设想通过基于台积电7nm节点构建的Qualcomm Cloud AI 100，为5G提供更低的延迟，并为云和边缘带来更高的性能和效率。

“FPGA或GPU通常可以更有效地进行AI推理处理……因为GPU是更并行的，而CPU是更串行的，并行芯片更适合AI处理。”高通产品管理高级副总裁Keith Kressin解释说：“不过，GPU更多的是为图形设计的，如果你从头开始设计一个芯片来加速AI，可以得到显著的改进。从CPU到FPGA或GPU都有数量级的改进。但定制AI加速器能提供再一个数量级的改进。”

在高通进军云计算之前，其主要竞争对手华为发布了据称是业界性能最高的基于Arm的处理器“鲲鹏920”。在SPECint(一个由12个程序组成的基准测试套件，用于测试整数性能)中，该芯片的得分超过了930分，比行业基准高出近25%，而功耗比“行业现有厂商提供的”低30%。

华为不是高通唯一的对手。

今年1月在拉斯维加斯举行的消费电子展上，英特尔详细介绍了即将推出的Nervana神经网络处理器(NNP-I)。据报道，该处理器的AI训练性能将达到竞争显卡的10倍。

谷歌去年推出了专用推理芯片Edge TPU；阿里巴巴也在去年12月宣布，计划在今年下半年推出首款自主研发的AI推理芯片。

在FPGA方面，亚马逊最近推出了自己的AI云加速芯片——AWS Inferentia。

微软也在Project Brainwave中预报了一个类似的平台。

今年3月，Facebook发布了用于AI推理的服务器芯片Kings Canyon。

就在本月，英特尔宣布推出一系列芯片组——Agilex，针对人工智能和大数据工作负载进行了优化。

但高通对Cloud AI 100的性能优势颇有信心，认为它将在深度学习芯片组市场上占据优势，预计到2025年，该市场规模将达到6630万美元。

“很多人把网络硬件放在云端，就像一个内容传输网络，用于不同类型的处理，无论是云端游戏，还是人工智能处理。这是另一个关键趋势。高通有机会从终端用户的输入技术一路参与，一直到云端。”Kressin说。

高通的另一个潜在优势是什么呢？生态系统的支持。去年11月，高通向一家专注于edge AI和on-device AI的初创基金提供1亿美元，特别投入于自动驾驶汽车、机器人、计算机视觉和物联网领域。去年5月，高通与微软合作，为在其许多片上系统芯片中嵌入的AI加速器创建了一个vision AI开发工具包。

“就市场规模而言，推理正在成为芯片领域的一个相当大的市场，”Kressin说：“随着时间的推移，我们预计推理的规模——从2018年至2025年大约会增长10倍。我们非常有信心成为这一领域的领导者。”