AWS新武器：将IaaS软体变硬体

云端龙头AWS年底大会re:Invent大会唯一的一场夜间加场演讲，主角竟然是谈硬体！

AWS在2016年的re:Invent大会，就在CEO主题演讲的前一天，找来催生AWS架构的AWS杰出工程师James Hamilton，开了一场别开生面的「周二现场秀」（Tuesday Night Live）。

这位AWS架构幕后功臣，是长年航行在夏威夷和西雅图航程的传奇工程师，不在西雅图办公室就是在海上远距工作。James Hamilton首度透露了AWS打造云端服务的关键之一是採用了许多自行设计的硬体，例如AWS自行设计了专用的路由器，甚至2016年还採用自家规格的网路晶片。

当晚，他还罕见地秀出了两款伺服器的照片，AWS客製的储存伺服器及客製运算伺服器（Custom Compute Server）。James Hamilton没有对这款运算伺服器透露太多，只说为了追求更好的能源效率，得自行设计。

当时众人最好奇的问题是，这款客製运算伺服器到底用在AWS的哪一项服务上？这个答案，直到一年后，也就是2017年re:Invent大会才得到解答。同样是火热的「周二现场秀」，但这次担纲开讲的不是传奇工程师，而是AWS全球基础架构副总裁Peter Desantis，也就是EC2运算服务总经理。

Peter Desantis娓娓道来，一路细数AWS过去11年来将基础架构扩张到全球的历程。但当晚最大亮点是，他终于正式揭露了EC2主机基础架构的未来蓝图，也就是Nitro系统架构，这是要用来取代2011年启用的前一代EC2基础架构系统Circa的新架构。

Peter Desantis指出，Nitro系统要将代管用户VM的主机功能，放到硬体中，希望能做到，VM效能和裸机的效能相当。

其实，AWS早在2013年推出的C3虚拟机器实例，就是採用了Nitro架构，当时Nitro最先实现的就是网路硬体功能，这也正是C3实例最大的特色，网路频宽提高了2成，延迟时间也减少了一半。不过，当时AWS没有透露Nitro系统的存在，只是强调技术创新才能提供这款C3实例。

Nitro之所以先实现网路功能，Peter Desantis解释，因为网路功能是EC2服务中负载最大的一项服务，也是最能凸显VM效能的基础架构功能。

2014年发表的C4实例，是下一个採用Nitro的EC2服务，这款实例的特色是储存优化，因为AWS进一步将储存处理机制也硬体化放入了Nitro系统中。这项调整，除了让EBS区块级储存服务自动最佳化，还节省了不少原本EC2主机储存处理时消耗的CPU资源，让C4的运算效能提高了12％。

甚至Amazon还在2015年1月，买下了合作多年的以色列ARM晶片设计公司Annapurna Labs，当时众人多以为Amazon要进军晶片市场，开始销售ARM处理器，没想到，併购Annapurna Labs是为了要打造AWS的新一代基础架构硬体。

在Annapurna Labs团队加入后，AWS开始打造新的ASIC晶片，也就是2017年11月推出的C5实例的专用晶片。C5是AWS第一个完全将EC2软体层放入Nitro硬体层的实例，也因此，原本在EC2主机上的Hypervisor虚拟层软体可以更为轻量化，改採用了新的Nitro Hypervisor软体。Peter Desantis强调，这个超轻量化的虚拟层软体，不是传统的虚拟层软体，可以让C5的VM用到100％的运算资源。

在Nitro系统中，除了CPU採用主流商用处理器之外，网路功能、储存功能、管理机制、云端监控机制，全部都是一张张硬体Nitro卡，再搭配专属的安全晶片。换句话说，AWS将原本用来管理商用x86伺服器的IaaS软体功能，都变成了硬体晶片，等于重新打造了一款云端专用的特殊规格伺服器。这也正是去年底AWS进一步能推出VMware on AWS和裸机实例的关键。

当晚，宣布了EC2裸机服务预览版之后，Peter Desantis随即从口袋拿出一颗新的晶片，这是下一代Nitro晶片的第一批工程样本，他才刚刚拿到手。「新晶片的电晶体数量增加了一倍，将会有很大的效能改进。」但如何实现在AWS的云端服务上，那就是明年才会揭晓的答案了。