亞馬遜云科技涉足自研芯片始于2013年與以色列芯片公司Annapurna Labs合作開(kāi)發(fā)的Amazon Nitro芯片,2015年亞馬遜云科技收購(gòu)了該公司,Nitro芯片主要用于網(wǎng)卡,也可以用于連接和控制硬盤(pán),控制EBS塊存儲(chǔ);還可以用于卸載(Offload)Hypervisior等CPU工作負(fù)載,當(dāng)然也可以用于硬件安全檢查等。有了Nitro,亞馬遜云科技也推出了多種EC2計(jì)算應(yīng)用實(shí)例供用戶選擇。

順應(yīng)AI、ML計(jì)算應(yīng)用的需要,亞馬遜云科技推出了Amazon Trainium芯片,發(fā)布了基于Trainium的Trn1n AI服務(wù)器,與上一代P4d產(chǎn)品相比,通過(guò)Trn1實(shí)例訓(xùn)練深度學(xué)習(xí)模型的成本降低多達(dá)40%。

Trn1實(shí)例可提供800Gbps EFA(Elastic Fabric Adapter)網(wǎng)絡(luò)帶寬(比最新基于GPU的EC2實(shí)例高兩倍),并與Amazon FSx for Lustre高性能存儲(chǔ)集成,讓客戶可以啟動(dòng)具有EC2 UltraClusters功能的Trn1實(shí)例。

通過(guò)EC2 UltraClusters,開(kāi)發(fā)人員可以將機(jī)器學(xué)習(xí)訓(xùn)練擴(kuò)展到一萬(wàn)多個(gè)與 PB 級(jí)網(wǎng)絡(luò)互連的 Trainium 加速器,讓客戶按需訪問(wèn)超算級(jí)性能,即便是最大型和最復(fù)雜的模型,訓(xùn)練時(shí)間也可以從幾個(gè)月縮短到幾天。

如果說(shuō)網(wǎng)絡(luò)芯片、機(jī)器訓(xùn)練芯片僅僅是亞馬遜云科技芯片試水的產(chǎn)品,亞馬遜云科技基于Arm架構(gòu)的Amazon Graviton3自研CPU處理器就是一個(gè)具有里程碑意義的產(chǎn)品,也宣告了亞馬遜云科技芯片版圖的完整。

C7g服務(wù)器到SSD

由Amazon Graviton3處理器支持的C7g實(shí)例可將計(jì)算密集型工作負(fù)載性能提高多達(dá)25%。與Graviton2相比,Amazon Graviton3處理器為科學(xué)計(jì)算、機(jī)器學(xué)習(xí)和媒體編碼工作負(fù)載提供高達(dá)2倍的浮點(diǎn)運(yùn)算性能,為加密工作負(fù)載速度提升高達(dá)2倍,為機(jī)器學(xué)習(xí)工作負(fù)載提供高達(dá)3倍的性能。Amazon Graviton3處理器的能效也更高,在相同性能下,與同類型EC2實(shí)例對(duì)比,可節(jié)省高達(dá)60%的能源消耗。

C7g實(shí)例是云中第一個(gè)采用最新DDR5內(nèi)存的實(shí)例,它提高了50%的內(nèi)存帶寬,從而提高了科學(xué)計(jì)算等內(nèi)存密集型應(yīng)用的性能。C7g實(shí)例的網(wǎng)絡(luò)帶寬也高出20%。C7g 實(shí)例支持 Elastic Fabric Adapter (EFA),允許應(yīng)用程序直接與網(wǎng)絡(luò)接口卡通信,提供更低且更一致的延遲。

除了C7g服務(wù)器之外,SSD盤(pán)是亞馬遜云科技硬件協(xié)同的另外一個(gè)發(fā)力點(diǎn)。

全新發(fā)布的Amazon Nitro SSD固態(tài)硬盤(pán)的Im4gn/Is4gen/ I4i實(shí)例,可為I/O密集型工作負(fù)載提供超高存儲(chǔ)性能。

通過(guò)自研的 Amazon Nitro SSD,Im4gn/Is4gen/I4i實(shí)例提供高達(dá) 30 TB 的 NVMe 存儲(chǔ),與上一代產(chǎn)品相比,I/O 延遲降低了 60%,延遲可變性降低了 75%,通過(guò)優(yōu)化存儲(chǔ)堆棧、虛擬化管理程序和硬件與Amazon Nitro 系統(tǒng)緊密集成,可使SSD更新交付速度更快,讓客戶可以從改進(jìn)的功能中獲益。

Im4gn 實(shí)例(現(xiàn)已可用)采用 Amazon Graviton2 處理器,與 I3 實(shí)例相比,性價(jià)比提高多達(dá) 40%,每 TB存儲(chǔ)成本降低多達(dá) 44%。Is4gen 實(shí)例(現(xiàn)已可用)也采用 Amazon Graviton2 處理器,與 I3en 實(shí)例相比,每 TB 存儲(chǔ)成本降低多達(dá) 15%,計(jì)算性能提高多達(dá) 48%。

無(wú)論是新的ARM芯片服務(wù)器,還是新的SSD,軟件與硬件結(jié)合是一種趨勢(shì),以O(shè)pen Chanel為例,更是將SSD盤(pán)的控制,上交由服務(wù)器CPU來(lái)完成,從而最大程度降低功耗、提高效率。云計(jì)算本質(zhì)是對(duì)資源效率的追逐,因此當(dāng)現(xiàn)有硬件資源得到充分挖潛之后,未來(lái)發(fā)展的空間就在創(chuàng)新硬件,GPU、AI芯片如此,新的Gravtion 3也是如此。

通過(guò)硬件的創(chuàng)新,亞馬遜云科技也躋身ARM服務(wù)器、SSD盤(pán)硬件供應(yīng)商。實(shí)際上不僅如此,阿里云、騰訊云都有相應(yīng)的服務(wù)器、存儲(chǔ)硬件產(chǎn)品。但在商業(yè)模式上,云服務(wù)商更多以云服務(wù)方式出現(xiàn),并沒(méi)有單純以硬件產(chǎn)品供應(yīng)商方式示人,他們對(duì)外可以提供硬件產(chǎn)品,但并不定位在專業(yè)硬件廠商,

云服務(wù)商的硬件與云服務(wù)相輔相成,這也為上次SaaS應(yīng)用提供了新的IaaS層硬件支撐,以SAP HANA為例,亞馬遜云科技Gravtion所提供的新特性就得到SAP HANA的認(rèn)可,實(shí)現(xiàn)逐步運(yùn)營(yíng)和性能的提升。

超越產(chǎn)品服務(wù)的創(chuàng)新

如今,亞馬遜云科技在25個(gè)地理區(qū)域建立了81個(gè)可用區(qū),并計(jì)劃新建9個(gè)區(qū)域和27個(gè)可用區(qū),有14個(gè)本地?cái)U(kuò)展區(qū)域、17個(gè)Wavelength區(qū)域,有108個(gè)Direct Connect光纖直連站點(diǎn),有310個(gè)邊緣站點(diǎn)和13個(gè)區(qū)域緩存站點(diǎn)。這些區(qū)域?qū)〝?shù)據(jù)中心、Amazon Outposts、IoT 服務(wù)、Snow 家族服務(wù)、Amazon Ground Station在內(nèi)的數(shù)千種云服務(wù),用于提供AI、ML、大數(shù)據(jù)、IoT、5G等應(yīng)用,可以說(shuō),現(xiàn)實(shí)中的有的IT應(yīng)用都可以在亞馬遜云科技找到相應(yīng)的服務(wù),顆粒度更細(xì),效率更高,這是一個(gè)高度整合、靈活自由選取的平臺(tái)。

但是從應(yīng)用創(chuàng)新的角度來(lái)看,這些服務(wù)所扮演的實(shí)際是一個(gè)集成開(kāi)發(fā)環(huán)境 (Integrated Development Environment ,IDE)或者說(shuō)是 “工具庫(kù)”角色?!熬拖裆w房子一樣,這些云服務(wù)提供不是一個(gè)預(yù)制好的房子,而是給用戶一個(gè)巨大的工具箱,可以挑選你們需要的工具,開(kāi)發(fā)自己的軟件。”“在亞馬遜云科技的信念中,我們認(rèn)為客戶是創(chuàng)造者,最懂自己業(yè)務(wù),也是真正知道軟件應(yīng)該如何開(kāi)發(fā)的人,就是用戶自己。”

但是要用好這些工具或者服務(wù),對(duì)人的能力和知識(shí)都有一定的要求,有人能夠DIY,制造自己需要的產(chǎn)品,但是更多的人還是希望跨越DIY的過(guò)程。

為了幫助客戶最大限度實(shí)現(xiàn)數(shù)據(jù)價(jià)值,除了千方百計(jì)降低云服務(wù)的使用的門(mén)檻。亞馬遜云科技與行業(yè)領(lǐng)導(dǎo)者的結(jié)合,也在不斷推動(dòng)行業(yè)的進(jìn)步,如亞馬遜云科技與高盛合作推出的面向數(shù)據(jù)的金融云(Financial Cloud for Data)服務(wù),與汽車制造商合作推出的數(shù)字孿生方案、Amazon IoT FleetWise數(shù)據(jù)管理方案。

小結(jié)

都說(shuō)“變是永遠(yuǎn)的不變”,這很好印證了re:Invent十年發(fā)展,從產(chǎn)品技術(shù)到服務(wù),在從云服務(wù)到硬件產(chǎn)品創(chuàng)新;從IT產(chǎn)品云服務(wù)提交,到行業(yè)應(yīng)用創(chuàng)新交付,這是一個(gè)螺旋式上升的過(guò)程,需要我們能夠跟上云計(jì)算發(fā)展的進(jìn)程變化。

分享到

songjy

相關(guān)推薦