Nvidia发表AI与HPC专用的统一运算架构HGX-2每秒可训练超过15万张图片

Nvidia

Nvidia新推出第一个专用于人工智慧以及高效能运算的统一架构HGX-2，该平台提供多重精度计算，满足不同运算需求，不过，该系统售价也不低，第一个使用HGX-2架构的人工智慧超级电脑DGX-2将在第三季发售，要价接近40万美元。

这个HGX-2架构的前身HGX-1，被微软的超大型云端硬体设计Olympus专案（Project Olympus）、脸书的人工智慧硬体架构Big Basin，还有AWS的公有云服务硬体採用，同时Nvidia也将其用于自家的人工智慧超级电脑DGX-1。

Nvidia创办人黄仁勋在GPU技术大会（GPU Technology Conference）提到（下图，来源：Nvidia），当计算需求暴增时，CPU扩展的能力显得薄弱。HGX-2搭载Tensor Core GPU为企业提供能强大的运算能力，该公司表示，将其用于ResNet-50训练基準，每秒能训练15万5千张图片，其运算能力相当于一台拥有300颗CPU的伺服器。

HGX-2其中一大特点便是提供多重精度（Multi-precision）计算，能为使用情境带来更多样的弹性，以科学计算和模拟来说，由于要求资料计算的精準度，HGX-2提供双精度与单精度浮点数运算，另外，也可以使用半精度浮点数或是Int8来做人工智慧模型的训练以及推测计算。

另外，透过Nvidia的光纤互连技术NVSwitch，HGX-2中的16颗V100 GPU运作起来就像是只有一个GPU，提供了2 Petaflops的运算速度，相当于每秒2万亿次的浮点数计算。

第一个使用HGX-2架构的人工智慧超级电脑DGX-2，预计将于今年第三季时发售，售价为399,000美元。联想、云达科技、超微以及纬颖科技都将在今年推出採用HGX-2架构的产品，另外，ODM厂商富士康、英业达、广达和纬创也将为部分大型云端资料中心提供DGX-2的设计。

Nvidia加速运算行销部经理Paresh Kharya表示，Nvidia认为未来需要一个人工智慧以及高效能运算的统一平台。而人工智慧正驱动着高效能运算产生变化，他提到，像是天气预报的科学计算与模拟的应用，或是图像、语音辨识还有自驾车导航等，这类深度学习模型的训练和计算。这些应用的计算模型都以前所未有的速度更新，甚至每小时需要更新一次。