微软开始在Azure提供Graphcore AI晶片云端服务

Graphcore

英国人工智慧晶片开发商Graphcore与微软合作，开发出了一款全新智慧处理单元（IPU），这块晶片在初期会主要应用于Azure云端，解决自然语言处理和电脑视觉领域的问题上。伴随IPU释出的Poplar软体堆叠，跟深度学习函式库TensorFlow以及ONNX模型格式整合，可良好支援现有的机器学习应用。

Graphcore解释IPU跟CPU和GPU的不同之处，IPU是一种平行处理器，经过重新设计具高度灵活性，可为现在的机器学习模型提供良好的效能，用来执行模型训练以及预测，Graphcore还提到，IPU除了可高效能执行複杂的模型之外，也能推动实现人工智慧领域的创新，高效率探索新技术，并让企业建立可用较少的资料训练的机器学习系统。

微软和Graphcore合作两年多，为Azure开发专门的系统，在IPU上强化电脑视觉与自然语言处理的模型。Graphcore表示，将IPU结合专门的Poplar软体堆叠一併使用，可提供可扩展且高效率的人工智慧解决方案。研究人员使用BERT语言模型进行实验，以一台具有8片IPU处理器PCIe卡的IPU伺服器系统，在56小时完成複杂的BERT Base模型训练，应用IPU系统让BERT模型的预测吞吐量高了三倍，延迟也少了20％，能更快速地交付运算结果。

而Poplar软体堆叠是研究人员与晶片一同开发，专为机器学习设计的图工具链，Poplar与TensorFlow以及ONNX格式良好整合，开发人员可以方便地使用现有的机器学习开发工具和机器学习模型，Graphcore也为ONNX提供了完整的训练Runtime，并且与ONNX组织紧密合作，要将该Runtime纳入成ONNX的标準执行环境中。另外，对PyTorch的支援也会在2019年的第四季提供，并在2020年初提供进阶支援。

目前Azure上Graphcore IPU预览版已经可供用户申请，目前会优先开放给自然语言处理创新应用的团队使用。