边缘运算关键技术AI让瑞典工具机大厂异常预警速度加快20倍

瑞典百年老牌的金属刀工具製造商Sandvik Coromant，为了加快反应设备故障预警，而改採用了边缘运算架构，将原放在云端上的机器学习预测模型，改直接在工厂设备前端来执行分析后，能做到比以前反应速度快20倍，大幅缩短预测停机故障的反应时间。

Microsoft Build 2017

瑞典百年老牌的金属刀工具製造商Sandvik Coromant，过去在全球设有好几座工业自动化工厂，主要从事生产各种先进工具机零配件，因为生产过程需经过非常高精密複杂的金属切割作业，所以工厂内的每台切割设备都需具备高精细切割操作的能力，所以一台造价昂贵，动辄上百万美元，甚至每部机器就有将近一千个可动式零件组成，只要一个细小零件脱落，都可以让该机器故障停摆，所以这些生产设备内也具备很多感测器，以便蒐集资料来进行机器学习分析，来做为预防性的设备维护。

改採边缘运算架构，以缩短机器学习预判时间

以前，Sandvik Coromant的作法，是将事先已训练过的机器学习模型放在云端，所以从设备蒐集大量感测器的资料后，得先回传云端才能使用机器学习来分析，判断有无异常，再将预判结果传回本地端的设备，这对于Sandvik Coromant来说，反应还是太慢，而且网路断线时，无法将资料传回云端分析，承担的故障风险更高，毕竟只要一台机器停机，可能导致整座工厂产线受牵连，生产延迟的后果，就是每小时损失超过数百万美元。

所以，Sandvik Coromant后来决定开始採用了边缘运算架构，不只是将资料放在本地端设备处理，更开始将机器学习直接使用在工厂设备前端，来加快异常事件预警的反应时间。以前，经由网路将资料传回云端处理完，再回传结果到反应，平均需要花2秒，现在改将机器学习模型就近放置在工厂设备前端来执行，只须0.1秒就能反应，两者反应时间相差多达20倍。

能有快20倍的反应速度，靠得就是把机器学习放到最靠近资料源的设备前端来分析，让异常事件预警可以更接近即时，因为省下了资料两地往返的等待时间，所以能更快处理，可以更即时现场判断，甚至，因为在设备前端就可以执行机器学习模型，所以一旦网路断线也不怕。长期研究人工智慧及物联网市场趋势发展的Gartner研究副总裁蔡惠芬就指出，「AI技术的成熟，是边缘运算兴起的一大关键。」

瑞典百年老牌的金属刀工具製造商Sandvik Coromant，为了加快反应设备故障预警，而改採用了边缘运算架构，将原放在云端上的机器学习预测模型，改直接在工厂设备前端来执行分析后，能做到比以前反应速度快20倍，大幅缩短预测停机故障的反应时间。（图片来源／Microsoft Build 2017）

AI技术成熟成为推动边缘运算的另一股力量

这就是为什么微软今年要押宝边缘运算，甚至还在今年Build开发者大会推出了一项全新边缘运算服务Azure IoT Edge，可以利用容器（Container）技术，将Azure机器学习、微软AI认知服务的程式码，打包成为一个个可以在闸道器上启用执行的微服务（Microservices），让企业就近能在本地端装置上结合AI技术，以便于更快现场进行预判。Azure IoT Edge也支援了Windows或Linux两大作业系统，对于硬体运算能力要求也不高，即使是记忆体容量只有128MB大小的Raspberry Pi单板电脑也能用。

除了微软之外，另一家今年也开始布局边缘运算的云端ERP商用软体巨头SAP最近也在新推出的SAP Leonardo边缘运算服务中，开始将SAP云端上的机器学习服务，直接改就近提供在本地端的IoT闸道器来部署，以便于前端设备能更快现场即时反应，同时还可以和后端的SAP S/4HANA ERP系统串接，以加强自动化工厂管理。「AI技术的成熟，更将加速边缘运算的发展。」 SAP物联网暨数位供应链资深副总裁 Hans Thalbauer最近来台时表示，因为有了AI技术的加入，物联网边缘装置将变得更聪明，而不需要将资料回传云端，现场就能立即分析处理，以便于企业运用在更多需要即时分析的IoT应用上，例如预防性维护等。

除了云端、商软业者开始将AI技术带进装置，也开始有越来越多可以支援边缘运算生态系发展的AI硬体和开发工具出现。连全球两大行动晶片业者高通和联发科都不约而同，从去年开始针对自家的Snapdragon 820及Helio X20高阶行动处理器，提供深度学习的SDK套件，让手机晶片也能具备执行深度学习处理的能力，来提高用户的使用体验，使得将深度学习部署到行动装置上变更容易，也能用于常见的AI应用，如脸部辨识、影像识别及自然语言分析等。

更瘦身的深度学习框架，前端装置开发AI应用变更容易

而在AI布局已大幅领先的GPU处理器大厂Nvidia也不遑多让，在AI专用伺服器以外，最近也推出一片体积只有信用卡大小的AI运算硬体Jetson TX2，因为搭载最新Pascal架构的GPU，因此具备有更强大的运算能力，可以用在安防摄影机、商用无人机、机器人等装置上，来提高在影像辨识、导航以及语音辨识方面的应用。

有了更容易开发AI应用的硬体之后，过去1年来也开始有更多的AI开发工具推出，让即使是运算能力不强的边缘装置，也能具备有提供基本的机器学习，甚至是深度学习处理的能力。

早在AI领域深耕多年的脸书，今年4月就开源释出了一个轻量版深度学习框架Caffe2，开始能在iOS、Android以及Raspberry Pi装置上执行较简单的深度学习模型，可以用于辨识影像、图片、声音及文本。目前Caffe2的开放原始码已在GitHub上释出。在早之前，脸书也曾推出另一个不同版本Caffe2Go，同样也可以在手机上执行深度学习。另外，脸书前不久才开源释出的AI快速文本分类工具FastText，最近也开始能部署在手机及Raspberry Pi上，来优化机器学习的相关应用。

Google今年5月也将两年前才开源的深度学习框架TensorFlow大瘦身而释出TensorFlow Lite的精简版本，可以在Android装置提供AI应用。甚至Google还在新版Android Wear 2.0穿戴式装置作业系统中，首次加入机器学习功能（on-device ML system），可以提供使用于支援穿戴装置的AI应用，例如新增的智慧讯息回覆功能，可依据收到讯息上下文的内容关联，来提供更聪明的讯息回覆，因为在装置端就可以执行机器学习模型，所以不用连网就能用。

甚至近来也开始有大数据分析服务商MapR试图将大数据分析技术轻量化后，带进装置端，而推出一款迷你版的融合资料平台MapR Edge，让大数据分析处理引擎Hadoop，也开始能在多台装置建立运算丛集来分析。

不过，蔡惠芬也表示，目前并不是所有的AI技术都适合用在边缘运算上。「若是需要利用巨量资料训练机器学习模型时，因为需分析的资料量过于庞大，所以通常还是得传回云端来处理。」另外，当预测模型需要的运算分析越複杂时，若装置本身的运算力不够强大，也没有足够软硬体做搭配时，还是得靠云端才能解决。

 相关报导  边缘运算会颠覆云端运算吗？