怼英特尔，想方设法给科技巨头省钱，英伟达这样刷存在感

作为两个欢喜冤家，把英特尔与英伟达放在一起从来不缺话题。前不久，英特尔精尖制造大会上，刚给摩尔定律正名。今天，英伟达主办的GTC 中国上，黄仁勋刚上台就表示摩尔定已经过时，直接怼了英特尔一把。

说英伟达这家公司是人工智能时代最大的幸运儿，再适合不过，单单股价在一年之间就已经上涨了10倍左右。全球巡回的GTC之旅北京站，已经吸引了超过 3500 名科学家、工程师以及媒体参加。

全新NVIDIA® TensorRT 3 AI 推理软件

很显然，互联网公司正在加快脚步将人工智能注入被数十亿用户所采用的服务之中。 因此，AI推理工作量也呈指数级增长。

数据显示，在视频领域，每日运行的推理计算估计有 3,000 亿次。在语音领域，每日运行的推理计算估计打 500 亿次以上。在语言翻译领域，每日运行的推理计算更是达到约 7000 亿次以上。

NVIDIA TensorRT则是全球首款可编程推理加速器， 借助CUDA的可编程性，TensorRT能够加速助推深度神经网络日益多样化，以及复杂的增长趋势。当然，通过TensorRT的加速，服务提供商能够以较低的成本部署这些计算密集型人工智能工作负载。

今天，英伟达再拿出全新NVIDIA® TensorRT 3 AI 推理软件，该软件能够大幅提升从云端至终端设备（包括无人驾驶汽车和机器人）的推理性能并降低成本。

根据黄仁勋介绍，TensorRT 3 与NVIDIA GPU的结合能够基于所有的框架、为诸如图像和语音识别、自然语言处理、视觉搜索和个性化建议等人工智能服务2提供超快速且高效的推理。此外，TensorRT 和NVIDIA Tesla® GPU加速器的速度可达到CPU 的40倍，而相较于基于 CPU 的解决方案，成本仅为其十分之一。

黄仁勋还提到，搭配 Tesla V100 GPU 加速器的 TensorRT 每秒能够识别多达 5,700 张图片，而如今所用的 CPU 则每秒仅能识别 140 张图片。

可以看出，黄仁勋是不放过任何一个怼CPU的机会。

除了 TensorRT 3 ，黄仁勋还发布了能够实现 AI 加速的软件。其中包括能够大规模提供实时、低延迟视频分析的 DeepStream SDK、以及能够加快 HPC 和深度学习应用速度的加速计算软件平台 CUDA 的最新版本：CUDA 9。

事实上，CUDA开发人员的数量在5年里已经增长了14倍，超过60万人，CUDA SDK的下载量也达到180万。

黄仁勋还表示，现在已经有超过 1200 家来自各行各业的公司采用 NVIDIA 推理平台，这其中不乏亚马逊、微软、Facebook和谷歌、以及阿里巴巴科大讯飞、京东、腾讯。

帮合作伙伴省钱、省钱、省钱

既然这次GTC大会来到了北京，英伟达自然不忘秀一下强大的合作伙伴，如今包括阿里云、百度和腾讯均已在其云服务中部署 Tesla V100 GPU 加速器。另外，华为、浪潮和联想在内的 OEM 均已采用NVIDIA的 HGX 服务器架构并使用 Tesla V100 GPU 来构建新一代加速数据中心。

为何能够吸引到这些巨头公司，英伟达的手段只有一个，那就是帮他们省钱。

阿里云、百度和腾讯均在升级其庞大的数据中心，从基于 NVIDIA Pascal 的系统转而采用基于 Volta 的平台，从而为人工智能推理和训练提供非凡的速度和可扩展性。

基于 Volta 的全新系统的核心是NVIDIA V100 数据中心 GPU。该 GPU 配备有 210 亿个晶体管，性能较早前的 NVIDIA Pascal 架构P100 GPU提升了 5 倍，同时可提供相当于 100 个 CPU 的深度学习性能。

黄仁勋同时表示，Tesla GPU 加速的服务器能够代替超过一百个超大规模 CPU 服务器来运行深度学习推理应用程序和服务，从而节省宝贵的机架空间、降低能耗和冷却需求，实现高达 90% 的成本降幅。

究其原因，由于Tesla V100相较于CPU加速了40倍，所以现在你只需要一台8 GPU服务器就可替代160台双CPU服务器或者4个机架，每台V100服务器可以节省50万美元。

以京东为例，通过采用 NVIDIA 的 Tesla GPU 和 TensorRT，已经能够同时针对1,000 个高清视频流进行实时推理，而服务器数量则减少至原来的二十分之一。

拉拢中国科技巨头，并且拿出实际的应用案例，同时AI城市平台、NVIDIA DRIVE自动驾驶开放平台，以及世界第一款机器人芯片XAVIER接连发力，英伟达的AI野心已经显现，而中国成为AI路上巨大的潜力市场，英伟达自然也不会放过。