【AWS云端战略大剖析：机器学习应用篇】AWS持续拓展AI版图力推整合式开发环境与高阶商用服务

对于机器学习相关的云端服务，AWS从底层IT基础架构服务、中间的开发平台服务，到上层的人工智慧应用服务，都推出了解决方案，2019年底，他们新发表了整合式开发工具SageMaker Studio，以及多种高阶应用服务，例如：Kendra、Fraud Detector、CodeGuru。

机器学习是当前企业发展AI应用的重要技术，在AWS今年re:invent大会上，该公司执行长Andy Jassy也证实这股趋势正在持续发展、扩张当中，因为，该类云端服务目前正是AWS成长最快的业务应用，他表示，AWS目前已拥有数万名机器学习服务用户，数量是市占第二厂商的两倍。

随后，Andy Jassy也针对AWS的各种机器学习服务，区隔出三大类型，逐一介绍最新进展。它们分别是：位于底层的机器学习框架与基础架构，居中的机器学习服务，以及上层的人工智慧服务。

以底层而言，Andy Jassy自豪地表示，全球有85％的TensorFlow框架，是在AWS的云端服务环境当中执行，而在执行机器学习训练的处理作业上，若以几种针对AWS环境最佳化调校的主要机器学习框架，搭配AWS提供的GPU执行个体P3，来进行Mask R-CNN深度学习模型的训练，比起用户自行搭建硬体设备来执行相关作业，可节省2成处理时间。

位于中间层的AWS机器学习解决方案，主要是全代管机器学习服务SageMaker，它是在2017年举行的re:Invent大会推出，资料科学家与开发人员可运用这套云端服务，轻鬆地进行机器学习模型的建构、训练与部署。到了2018年，SageMaker已陆续增添50种以上的功能。

在2019年底举行的re:Invent大会，AWS继续发布SageMaker相关的新功能，最受众人瞩目的部分，就是用于机器学习的整合式开发环境（IDE），名为SageMaker Studio，并基于这套工具，提供Notebooks、Experiments、Autopilot、Debugger、Model Monitor等特色，支援开发与部署机器学习模型的自动化执行、整合、除错、监控。

AWS在机器学习产品线的顶层，设置了人工智慧应用服务（AI Services），这里所提供的解决方案，可因应不懂机器学习技术运作方式的用户。

早先他们陆续推出影像辨识、语音辨识、文字辨识，以及对话机器人、个人化推荐、预测等服务。到了今年，他们提供了更多与企业日常业务运作更密切相关的功能项目，像是诈骗侦测、程式码检视与剖析、往来客户联络分析，以及企业内部搜寻。

因应机器学习开发流程各阶段的需求，率先推出网页版IDE工具

因应简化开发机器学习模型的需求，AWS提供全代管服务SageMaker，他们最近更推出延伸的整合式开发环境SageMaker Studio，开发人员能在此撰写程式码、追蹤实验结果、执行除错与监控。

在今年re:Invent大会推出的机器学习各项新功能当中，SageMaker Studio无疑是针对开发人员与资料科学家的重要特色，号称能大幅提升生产力。

基本上，它提供了单一操作介面，能让用户着手进行机器学习模型的建立、除错、训练、部署、监控、维运，并提供多种功能，像是：伸缩式脚本套用、实验测试管理、模型自动建立、除错、组态剖析，以及模型飘移侦测。

整体而言，在这套整合式开发工具当中，开发人员可以查看原始程式码、相依性、文件，以及用于行动App的图片等应用程式资产，整理出彼此之间的组织结构。同时，他们也能建立专案资料夹，管理资料集与用于自动化执行的笔记本，并与其他人共同讨论笔记本的设计与后续处理的结果。

运用与亚马逊相同的机器学习技术，发展出更通用的人工智慧服务

关于人工智慧的应用需求，其实并不只是提供开发机器学习的辅助机制，对于不谙这类技术运作原理与相关管理维护作业的用户而言，其实，也能藉助云端业者提供的高阶代管服务，即可善用机器学习技术来简化各种工作，为使用者提供更多元的AI操作体验。

Fraud Detector

在今年底最新发表的人工智慧应用服务当中，Andy Jassy最先介绍的是诈骗侦测服务Amazon Fraud Detector，它能协助企业即时识别线上身分与支付诈骗行为，而且，这里面採用的判别技术，是由本身就在经营电子商务的亚马逊（Amazon.com）所发展出来的。

这套服务会同时使用诈欺与合法交易的历史资料，对其执行机器学习模型的建构、训练与部署，能为用户提供即时的诈骗风险预测。在试用初期，用户只需将一些资料上传到S3，像是与交易相关的电子邮件位址、IP位址，也可自行增添帐单地址、电话号码，接着执行自定的机器学习模型训练。

CodeGuru

Andy Jassy第二个揭露的人工智慧应用服务，是针对软体开发人员的程式码审视（code reviews），以及应用程式剖析（application profiling）需求，用户可运用AWS提供的机器学习技术，取得程式码自动化分析的机制，但这里所要提供的功能，不只是突显既有程式码的撰写错误、品质不佳与效能执行问题，还要找出耗费最多IT资源的程式码片段。

开发人员要怎么使用CodeGuru来审视程式码？他们仍然照常将程式码提交到GitHub、CodeCommit等软体开发仓库服务，然后再将CodeGuru设为程式码审视人员之一即可，不需调整原本的作业流程或额外安装软体。随后CodeGuru会接收到程式码下拉的请求，并且运用系统预先训练好的模型，自动对用户程式码执行评估，而这些完成训练的机器学习模型，所根据的程式码资料主要有两大来源：亚马逊数十年来所审视的程式码，以及GitHub排名前十大的开放原始码软体专案。

处理过程中，CodeGuru会针对程式码的品质来分析程式码的异动，如果发现问题，会在程式码下拉请求当中，增添一段评论叙述，让开发者能够清楚看到该段程式码所在的行数位置、问题类型，以及系统推荐的修正方式（像是範例程式码与相关说明文件的连结）。

而在应用程式剖析的部份，CodeGuru会利用机器学习技术，找出最耗费云端服务资源的程式码。为了要达成监控的目的，用户须在他们开发的应用程式当中，安装小型、轻量的代理程式，让CodeGuru能够以5分钟为频率，定期观察应用程式执行时的状态，以及剖析程式码的组态。而这样的观测会记录CPU利用率与存取延迟，以及直接对应的程式码位置，最后会产生图表，协助用户找到那些导致效能瓶颈的程式码片段。

目前有哪些企业採用CodeGuru？AWS表示，亚马逊内部团队正在使用CodeGuru，他们剖析的应用程式数量已经超过8万支；而在2017年到2018年之间，这套服务提供给亚马逊的内部版本，也协助隶属于该公司消费业务的Amazon Prime Day团队，大幅提升应用程式的执行效率──CPU利用率增加了3.25倍，在Amazon会员狂欢购物节期间，他们需管理的执行个体数量也随之减少，整体成本降低近4成。

Connect Lens

第三个AWS今年主推的人工智慧应用服务，是针对AWS客户联络中心云端服务Amazon Connect，所提供的分析服务Contact Lens，当中运用了机器学习的技术，让用户能够从与顾客的对话里面，理解他们回馈的意见、认知趋势与价值，并藉此改善顾客互动体验。

目前AWS公布多家先期採用这项顾客资料分析服务的企业，包括：财务软体公司Intuit、金融投资财务管理公司John Hancock、媒体集团News Corp、个人财富与利益解决方案厂商Accolade，以及行动电信与能源供应商amaysim。

基本上，单就Amazon Connect而言，它採用的技术，与目前支撑亚马逊顾客服务的技术是相同的，号称能以更低的成本让用户经营他们的客户联络中心，而且能支援数千个值机员的使用。若这项服务同时搭配Contact Lens使用，AWS表示，客户服务主管可以透过Amazon Connect网页主控台介面，毋需具备程式撰写与机器学习等技术专业，即可进行多种功能的操作。例如，从顾客对话里面，发现新兴的主题与趋势，并对客户来电与对话文字记录，快速实施全文检索，以便找出解决顾客的疑难杂症，同时，还能提供来电与文字对话的分析，进而改善客服人员的效能。

除了高度整合Amazon Connect这项卖点，Contact Lens所产出的诠释资料，像是文字誊本、意见、分类标籤，都是依照妥善定义的资料纲要来储存，而且会放置在用户的S3资料桶当中。企业可以轻易汇出这些资讯，并运用Quicksight、Tableau这类图表分析工具，将其产生进一步解析，以及结合其他来源的资料。

Kendra

在今年re:Invent大会最后介绍的人工智慧应用服务，是提供企业搜寻功能的Amazon Kendra，里面运用了自然语言处理，以及其他机器学习技巧，能够统合企业内部的多个资料孤岛（data silos），并且持续提供高品质的通用查询结果，AWS认为，相较于目前透过关键字查询而得到的随机连结列表，这项新的服务可以提供更好的选择。

有了Kendra，企业的员工若要进行内部资料搜寻，可以运用自然语言的表达方式来进行查询，例如，他们可以键入问题内容叙述，而不只是单纯输入关键字，而系统也能够用对话的方式回答问题，并且提供相关的服务与网站连结。

同时，这样的服务，能够横跨多种应用系统、网站入口与维基共笔内容管理系统（Wiki）进行整合，用户只需在AWS管理主控台上进行简易操作，例如指出需要查询的文件储存库位置，Kendra就会汇集所有资料，以便建构集中的索引。

在文件安全控管的部份，这项服务会扫描文件当中的许可权限，可确保搜寻结果仅列出该名使用者能存取的文件，以便符合企业既有的文件存取政策。

想要横跨档案共享区、资料库，以及共用文件库，来进行全文检索，过去我们可能需建置搜寻引擎或知识管理系统，但通常只能透过输入关键字来查询（图左），今年AWS推出Amazon Kendra的内部搜寻服务，可同时支援自然语言处理的问答（图右）。

继续简化机器学习开发与应用的难度，降低不同技术层级的操作门槛

整体而言，今年AWS在机器学习领域所推出的云端服务，在应用的格局上，都有进一步突破。

例如，在SageMaker的机器学习开发平台服务，AWS提供了功能丰富的整合式开发工具，能够大幅简化机器学习模型的设计与测试流程。

而在人工智慧应用服务的部份，AWS今年增设了更多解决方案，採用与母公司亚马逊相同的机器学习技术，除了今年陆续上线的个人化推荐与预测服务，他们也预告未来将发布与企业商务运作需求密切相关的服务，涵盖了顾客身分辨识、顾客往来分析、应用程式效率与成本节约，以及内部资料搜寻等层面，继续为云端服务业者的机器学习与人工智慧技术，提供更多专业领域的应用服务选择。

 相关报导  AWS 2020云端大战略