在近日举行的GTCCHINA2017大会上，NVIDIA创始人兼首席执行官黄仁勋在主题演讲中介绍了互联网公司竞相将深度学习AI引入受众达数十亿人的服务之中，以及AI推理工作负载是如何呈指数级增长的，并展示了能够加快人工智能大规模采用速度的全新技术。

而在NVIDIA全球副总裁、智能机器事业部总经理DeepuTalla看来，GPU和深度学习是一个新的模式，从云端到终端，AI无处不在。

终端设备上的AI

AI主要分两步走，第一步是创造一个可训练的神经网络。第二步就是部署神经网络，即推理。推理可以发生在云上也可以发生在终端设备上。

人们普遍认为人工智能是发生在云端的，其实AI慢慢从云端转移到了终端设备上面。

Deepu说，除了在云上进行推理外，还可以在终端设备上进行推理。为什么要在终端设备上部署AI呢？这主要是由四大因素决定的。

第一，带宽。如果把所有摄影头的内容都发到云上，那么带宽是不够的。

第二，延迟。比如无人驾驶汽车，需要在5毫秒或10毫秒内做一个决定。AI训练就必须部署在本地终端设备上面。

第三，隐私。对于某些行业，比如医疗健康服务业，他们不想把数据放在公有云上，所以就必须在本地部署AI。

第四，网络的连接性。不是任何时间地点都是有联网的，比如你的车要过一个隧道的时候就没有信号了，这就要求AI可以工作在离线模式下面。

机器人和人一样需要做三件事情。首先是感知。然后是通过大脑来思考和推理。一旦想清楚了我们就会开始行动。这是一个循环，对人来说很容易，但对机器人来说很困难。所以我们需要人工智能来解决三大问题，感知，思考和行动。

为此，NVIDIA推出了JetsonTX2，一个名片大小的超级计算机。配合软件开发工具包，NVIDIA让JetsonTX2具备了深度学习、视觉学习、AI等等强大的功能。

在GTCCHINA2017期间，NVIDIA宣布将与京东共同合作，利用基于NVIDIAJetson超级计算机模块驱动的智能机器将人工智能引入物流与配送领域。

这个产品就是京东创新实验室京东X推出的由NVIDIAJetson超级计算平台提供技术支持，且运行TensorRT以实现导航和无人送货的最新产品——JDrone和JDrover。

凭借拥有高性能、低能耗、小尺寸和先进视觉能力的Jetson，JDrones具有每小时100公里的航速，同时可以配送重达30公斤的包裹。

此外，京东X还在大学校园（如：北京的人民大学和清华大学、浙江杭州的浙江大学）针对最后一公里配送提供JDrover机器人，并计划于明年在全国多所大学校园内部署数百台JDrover。

使用Jetson，这个送货机器人可以通过识别人脸，行人，交通灯，标志等来轻松地穿过拥挤的街道，将包裹配送给从京东网上商城购买书籍、零食和电子产品等商品的顾客。随着更多的数据收集和算法优化，京东X预计将在中国更复杂的场景中部署无人车。

“现在只有10％的制造业是完全自动化的，未来，制造业会越来越多的实现自动化生产。今天，我们看到京东X用NVIDIA来实现物流配送服务。农业的效率也会增加。机器人还会让桥梁的检修效率提升。在未来，我相信所有的手术刀都将是机器人操作的。机器人操作的更精确。”Deepu说。

在GTCCHINA2017上，NVIDIA还宣布了全球首款自主机器的处理器Xavier，Xavier将成为下一代Jetson的片上系统。作为迄今为止最为复杂的片上系统，Xavier将于2018年第一季度为早期接触合作伙伴提供；2018年第四季度全面推出。

AI城市——NVIDIA Metropolis平台

现在城市管理者都在推进智慧城市建设，而NVIDIA要打造是一个AI城市的愿景，也就是人工智能城市。

对于智能城市来说，我们需要一个从终端到云的架构。所以，人工智能既会部署在摄像头上，也会部署在楼中的某一个服务器上，还会存在于云之上。

为此，NVIDIA推出了用于打造AI智慧城市的Metropolis平台。Metropolis于5月份首次发布，是一个包含各种工具和技术从终端到云端的视频分析平台，以构建覆盖交通与停车管理、执法、城市服务等各个方面更智能、更快速的AI赋能应用。

在GTCCHINA2017上，NVIDIA宣布与将海康威视携手共建AI城市。为了实现这一目标，海康威视将摄像机及网络录像机与NVIDIAJetson终端相结合，使用由NVIDIATeslaP4GPU加速器提供支持的云服务器，以及利用DGX－1AI超级计算机的大规模计算能力进行训练。

此外，大华、华为和阿里巴巴都提供基于NVIDIA平台的AI视频解决方案。除了阿里巴巴与华为之外，还有超过50家全球领先公司已经在使用NVIDIAMetropolis。

在2020年之前，我们将借力在城市中部署的超过10亿台的摄像头，以期解决交通拥堵、紧急事件通知和失踪人员搜寻等问题。

另外，NVIDIAMetropolis平台包含了NVIDIADeepStreamSDK（软件开发套件）。NVIDIADeepStreamSDK简化了由深度学习提供支持的、用于AI城市与超大规模数据中心的可扩展智能视频分析的开发工作。开发者可以使用DeepStream来实时处理、理解并归类视频帧，以满足最严苛的吞吐与延迟的需求。

NVIDIA正在通过新的合作伙伴计划汇聚更多的全球最佳AI公司，以加速围绕Metropolis的新产品开发。

上周，NVIDIA宣布了Metropolis软件合作伙伴计划，聚集十多家软件合作伙伴，并提供一系列应用程序，以便让系统集成商与硬件厂商轻松地构建新产品。

商汤科技（SenseTime）是上述合作伙伴之一，面向公共安全、零售与门禁控制领域提供人脸识别解决方案。商汤科技已经与中国移动、中国银联以及新浪微博等国内行业领导者展开合作，将其技术应用于安防监控、金融、教育以及机器人等行业。

“中国在AI城市方面是一个领军者，AI城市对我们来说是非常大的机遇。”Deepu说。

结语

不管是终端设备上的AI还是AI城市，NVIDIA正在借助AI实现万物智能化。现在AI无处不在，未来人工智能将连接一切！