英偉達掌舵人黃仁勛，在GTC2017上再掀京城“AI風云”。

▲ NVIDIA CEO 黃仁勛

上場后“老黃”直接開懟，終于說出了人們憋在心中許久的結論——摩爾定律已終結。

▲ 兩股力量推動計算領域的未來

但，NVIDIA的GPU計算為整個行業(yè)指出了前進的道路。

他指出，設計人員無法再創(chuàng)造出可以實現(xiàn)更高之靈系并行性的CPU架構；晶體管數(shù)每年增長50％，但CPU的性能每年僅增長10％。而NVIDIA的GPU彌補CPU的不足，加速處理高強度計算負載。

深度學習另一大“殺傷性武器”：CUDA

CUDA是一種革命性的計算架構，它將專用功能ASIC的性能與通用編程模型相結合，使開發(fā)人員實現(xiàn)多種算法。目前CUDA開發(fā)人員的數(shù)量在5年里增長了14倍超過60萬，下載量達到180萬。

▲ 適用于全球開發(fā)人員的NVIDIA AI

AI是NVIDIA CUDA GPU的“殺手級應用”，AI取得驚人進步。

阿里巴巴、百度和騰訊已在各自的云服務中采用NVIDIA Volta GPU。

華為、浪潮和聯(lián)想已采用NVIDIA基于HGX的GPU服務器。

此外，NVIDIA還在為全球開發(fā)員人配置強大AI工具，全力推進“統(tǒng)一架構”CUDA GPU計算。

AI推理是下一個巨大挑戰(zhàn)，重磅發(fā)布 TensorRT 3

AI推理平臺必須具備可編程性，高性能，且支持龐大和復雜的網(wǎng)絡。

隨著智能機器的爆發(fā)性增長，AI會將智能注入到2000萬臺云服務器、上億臺汽車和制造機器人中。所以，AI推理平臺必須可擴展，以解決海量計算的性能、功耗和成本需求。

▲ 宣布NVIDIA TensorRT 3

于是，老黃又來搞事了。

宣布NVIDIA TensorRT 3，全球首款可編程AI推理加速器。

TensorRT是一款適用于CUDA GPU的優(yōu)化神經(jīng)網(wǎng)絡編譯器，它可利用CUDA深度學習指令集創(chuàng)建運行時。從云、數(shù)據(jù)中心、PC、汽車到機器人，TensorRT皆能在NVIDIA全系列平臺便宜出最優(yōu)運行時。

▲ 運行在 V100上的 TensorRT在處理圖像時可實現(xiàn)7ms的延時

運行的Volta上的TensorRT3在圖像分類方面，比最快的CPU還要快40倍，在語言翻譯方面則要快140倍。

搭配 Tesla V100 GPU 加速器的 TensorRT 每秒能夠識別多達 5700 張圖片，而如今所用的 CPU 則每秒僅能識別 140 張圖片。

AI城市是一個巨大的AI推理挑戰(zhàn)，它可能需要使用大約1000萬個Tesla V100 GPUs來監(jiān)控10億臺攝像頭。

▲ NVIDIA AI城市－助力中國建設更智慧、更安全的城市

NVIDIA將攜手�？低�視共建AI城市。此外，大華、華為和阿里巴巴都提供基于NVIDIA平臺的AI視頻解決方案。