以3月4日發(fā)布的Alveo SmartNIC SN1000為例,其既包括網(wǎng)絡(luò)功能的卸載,還可以進(jìn)行計(jì)算的卸載與加速。這一創(chuàng)新既縮短了上市時(shí)間,而且具備很強(qiáng)的競(jìng)爭(zhēng)力,因此填補(bǔ)了傳統(tǒng)算法交易中的市場(chǎng)空白。
除此之外,當(dāng)天上午,賽靈思還發(fā)布了Smart World視頻分析及相關(guān)的高度可擴(kuò)展的VMSS平臺(tái)等解決方案,并介紹了其應(yīng)用商店(Xilinx App Store)相關(guān)細(xì)節(jié)。
加速算法交易:推出Alveo SN1000智能NIC
當(dāng)今的算法交易主要是軟硬件算法交易兩大路徑:使用CPU來(lái)驅(qū)動(dòng)算法交易,雖然部署簡(jiǎn)便,但由于CPU發(fā)展面臨瓶頸,時(shí)延難以突破,因此缺乏市場(chǎng)競(jìng)爭(zhēng)力,硬件算法交易方式需要專(zhuān)業(yè)開(kāi)發(fā)商基于IT系統(tǒng)進(jìn)行設(shè)計(jì)和架構(gòu),雖然因一定程度解決時(shí)延問(wèn)題具備較強(qiáng)的競(jìng)爭(zhēng)力,但成本高且交付周期長(zhǎng),潛在風(fēng)險(xiǎn)大;而從軟件算法交易轉(zhuǎn)換成硬件方式,門(mén)檻則非常高。
如何化解困擾當(dāng)今眾多廠(chǎng)商面臨的這些挑戰(zhàn)、幫助客戶(hù)無(wú)需硬件開(kāi)發(fā)就可以達(dá)到微秒級(jí)的低時(shí)延要求?
賽靈思推出的 Alveo SmartNIC SN1000加速卡就是這樣一個(gè)開(kāi)箱即用的加速算法交易解決方案。
2×100GB的Alveo SN1000是業(yè)界首款硬件可組合式SmartNIC,符合數(shù)據(jù)中心封裝的尺寸需求,而功耗僅為75瓦。SN1000采用16核NXP Arm SoC構(gòu)建,UltraScale+ FPGA架構(gòu)、ARM的子系統(tǒng)以及可編程的Viits Networking等特性,可滿(mǎn)足市場(chǎng)不斷變化的需求。
由于預(yù)先進(jìn)行了硬件加速,SN1000 SmartNIC稍加配置即可對(duì)遠(yuǎn)程存儲(chǔ)、NVMe或其他流量以及安全和防火墻進(jìn)行加速,實(shí)現(xiàn)了開(kāi)箱即用、即插即用,同時(shí)維持相關(guān)性能不變。
SN1000 的另一個(gè)特性是,可以非常方便地移除預(yù)制某些功能,然后基于其統(tǒng)一軟件平臺(tái)Vitis全新打造的Vitis Networking,使用類(lèi)似P4這樣的高級(jí)語(yǔ)言對(duì)數(shù)據(jù)面進(jìn)行編程,也可以使用C和C++的語(yǔ)言對(duì)于A(yíng)RM進(jìn)行控制和流量的管理,滿(mǎn)足客戶(hù)自認(rèn)為非常重要的應(yīng)用領(lǐng)域。無(wú)論是配置還是加速,均可由賽靈思或客戶(hù)來(lái)實(shí)現(xiàn),亦可由客戶(hù)的客戶(hù)或獨(dú)立的軟件和IP合作伙伴來(lái)實(shí)現(xiàn)。這體現(xiàn)了賽靈思所提供的強(qiáng)大的可編程的靈活性。
Vitis Networking是此次發(fā)布的另一個(gè)全新品牌,其特點(diǎn)是囊括過(guò)去和現(xiàn)今所有編程技術(shù)。
上述硬件加速的功能可以在賽靈思的App商店 (Xilinx App Store)獲得。
作為業(yè)界首款可組合式SmartNIC,SN1000能夠滿(mǎn)足不同應(yīng)用的需求:首先可為所有的卸載提供”軟件定義的硬件加速”,其次是以線(xiàn)速性能提供特定應(yīng)用數(shù)據(jù)路徑,第三可以用P4、C、C++編程語(yǔ)言實(shí)現(xiàn)快速靈活應(yīng)變的硬件加速,并且所擁有的控制面和數(shù)據(jù)面分離的異構(gòu)架構(gòu)。賽靈思數(shù)據(jù)中心事業(yè)部網(wǎng)絡(luò)與存儲(chǔ)產(chǎn)品管理總監(jiān)Kartik Srinivasa認(rèn)為,SmartNIC SN1000代表了行業(yè)趨勢(shì)。
模塊化、組合式的特點(diǎn),使得其支持非常廣泛的算法交易用例,并且還可以非常方便地把內(nèi)部和第三方的應(yīng)用進(jìn)行集成,便于再部署算法交易的框架和IP,方便包括經(jīng)紀(jì)人、交易所,市場(chǎng)數(shù)據(jù)廠(chǎng)商,銷(xiāo)售側(cè)的廠(chǎng)商和自營(yíng)交易商等在內(nèi)的更多機(jī)構(gòu)用戶(hù)使用。
基于Vitis人工智能平臺(tái)的神經(jīng)網(wǎng)絡(luò)元素正在不斷優(yōu)化和更新,以幫助生態(tài)系統(tǒng)伙伴、客戶(hù)能更好的進(jìn)行開(kāi)發(fā)。
賽靈思數(shù)據(jù)中心事業(yè)部網(wǎng)絡(luò)與存儲(chǔ)產(chǎn)品管理總監(jiān)Kartik Srinivasa在回顧NIC產(chǎn)品的歷史演變后說(shuō),SmartNIC可以用于更廣泛類(lèi)別的卸載,還可以基于A(yíng)SIC Arm和FPGA,因此受到包括百度、阿里、騰訊在內(nèi)對(duì)性能要求最高,特別是對(duì)加速網(wǎng)絡(luò)、安全和存儲(chǔ)卸載功能需求各不相同的超大規(guī)模數(shù)據(jù)中心和云服務(wù)提供商的青睞。
關(guān)于SN1000之后的路線(xiàn)圖, Karitik表示,雖然現(xiàn)在不方便透露細(xì)節(jié),但是賽靈思正在積極研究下一代的加速、下一代的協(xié)議。
智能視頻分析解決方案和開(kāi)發(fā)框架:Smart world已經(jīng)廣泛應(yīng)用
當(dāng)下市場(chǎng)上各種不同應(yīng)用的數(shù)據(jù)分析,大都是針對(duì)相應(yīng)的場(chǎng)景用最短的時(shí)間獲取最豐富的信息,而與人們的生命財(cái)產(chǎn)安全攸關(guān)的病患監(jiān)控、事故警告、工業(yè)安全、智能零售等場(chǎng)景,對(duì)應(yīng)的是應(yīng)用非常復(fù)雜,需要同時(shí)運(yùn)行多種算法,其時(shí)延也必須要足夠低;一旦發(fā)生意外,就必須要能迅速并且穩(wěn)定地進(jìn)行偵測(cè),數(shù)據(jù)分析的性能必須是高效的和確定性的。
例如,由于欺詐,全球零售業(yè)每年損失超過(guò)1000億美元;由于工傷造成的誤工時(shí)間,每年也給工業(yè)領(lǐng)域造成了不小的損失;在醫(yī)學(xué)領(lǐng)域,護(hù)理成本占比約為30%……這些行業(yè)迫切希望能夠通過(guò)技術(shù)手段來(lái)降低各種成本。
要維護(hù)這樣一個(gè)復(fù)雜的應(yīng)用,以前的對(duì)策就是不斷地?cái)U(kuò)充硬件,否則日常的設(shè)備部署和運(yùn)行成本會(huì)越來(lái)越高。想象一下,按照2040年全球人口新增15億的預(yù)測(cè),這樣的解決方案將難以大規(guī)模部署。
賽靈思專(zhuān)門(mén)為此打造的智能世界視頻分析解決方案 Smart Word可以整體支持網(wǎng)絡(luò)、存儲(chǔ)、計(jì)算加速,并且擁有業(yè)經(jīng)驗(yàn)證的案例。
據(jù)賽靈思數(shù)據(jù)中心事業(yè)部亞太區(qū)的數(shù)據(jù)中心戰(zhàn)略營(yíng)銷(xiāo)經(jīng)理Guruprasad介紹,Smart world是一套人工智能視頻分析解決方案和開(kāi)發(fā)框架。面向其中的關(guān)鍵應(yīng)用,賽靈思還進(jìn)行了優(yōu)化,時(shí)延低至100毫秒且為各種復(fù)雜算法提供確定性的性能,以及可編程的Alveo器件支持和行業(yè)最低成本。
1.雙管齊下同時(shí)解決企業(yè)和開(kāi)發(fā)者的痛點(diǎn)
Smart world解決方案雙管齊下同時(shí)解決企業(yè)和開(kāi)發(fā)者的痛點(diǎn)。
面向開(kāi)發(fā)者,優(yōu)化后的賽靈思解決方案提供了一個(gè)具有參考設(shè)計(jì)的框架——Xilinx視頻機(jī)器學(xué)習(xí)流媒體服務(wù)器(VMSS),實(shí)現(xiàn)了類(lèi)似工作流的軟件開(kāi)發(fā),無(wú)需任何FPGA開(kāi)發(fā);面向客戶(hù)關(guān)注的方案部署,賽靈思聯(lián)合合作伙伴提供了隨時(shí)可部署的視頻分析解決方案,支持智慧城市、智能醫(yī)療、智能零售等重要領(lǐng)域的部署。
2.高度可擴(kuò)展的VMSS平臺(tái)
作為一個(gè)高度可擴(kuò)展的平臺(tái),首次亮相的Xilinx視頻機(jī)器學(xué)習(xí)流媒體服務(wù)器(VMSS)可以方便地增加信道的數(shù)量而不影響總體時(shí)延,,即使是面對(duì)復(fù)雜性不斷增加的機(jī)器學(xué)習(xí)和人工智能應(yīng)用同時(shí)并行多種模型和算法。
VMSS設(shè)計(jì)非常靈活,可以變更用途。例如,如果在晚上沒(méi)有視頻推斷的任務(wù),可以去做比如說(shuō)訓(xùn)練、視頻和數(shù)據(jù)庫(kù)的處理。
這個(gè)平臺(tái)已經(jīng)也被客戶(hù)采用。如Mipsology提供高性能推斷的解決方案,并以即插即用的方法實(shí)現(xiàn)從GPU到FPGA的遷移;DeeppAI是在邊緣用FPGA進(jìn)行訓(xùn)練、大大提升性?xún)r(jià)比的首個(gè)成功進(jìn)行商業(yè)部署的開(kāi)發(fā)企業(yè)。
賽靈思的VMSS平臺(tái)在智能世界的視頻分析具有獨(dú)特的價(jià)值定位:非常低的總體擁有成本、確定性的性能、支持非常廣泛的部署,并且隨著生態(tài)系統(tǒng)不斷的擴(kuò)展獲得更加廣泛的部署。
3.性能遠(yuǎn)超對(duì)手,應(yīng)用成果突出
在智慧城市領(lǐng)域,騰訊以WeLink檢測(cè)控制和管理樓宇中全部聯(lián)網(wǎng)設(shè)備。過(guò)去主要是把數(shù)據(jù)傳輸?shù)津v訊云,既占用成本,帶寬占用也很高,因?yàn)樗型茢喽荚谠贫诉M(jìn)行,所以性能也非常低、耗時(shí)費(fèi)力。Aupera采取本地的邊緣來(lái)進(jìn)行推斷的方式,大大降低了時(shí)延,帶寬成本也降低了90%,目前已部署了超過(guò)5000個(gè)攝像頭,而且還有人臉識(shí)別、口罩監(jiān)測(cè)等額外的功能,比如說(shuō),即使戴著口罩也可以完成人臉識(shí)別。
與全球最主要的零售業(yè)巨頭合作試行的一個(gè)防零售欺詐對(duì)策,也是一個(gè)成功的例子。在這個(gè)案例中,某零售點(diǎn)通過(guò)32個(gè)攝像頭提供的視頻來(lái)找出在收銀臺(tái)發(fā)生的欺詐行為。
在同樣的測(cè)試條件下(TinyYoloV3 + RESNET50),由于賽靈思的器件對(duì)于流量的處理速度是英偉達(dá)的兩倍,而且功耗、散熱性能也更加優(yōu)越,形象地說(shuō),一臺(tái)服務(wù)器就可以頂對(duì)手兩臺(tái)使用,這大大降低了資本支出。與英偉達(dá)的T4 GPU相比,賽靈思的解決方案在時(shí)延方面降低75%到80%,總擁有成本方面降低近30%,確定性、一致性表現(xiàn)也十分出色。
賽靈思在關(guān)鍵應(yīng)用領(lǐng)域表現(xiàn)遠(yuǎn)遠(yuǎn)超出對(duì)手,成為眾多合作伙伴青睞的根本原因。
圍繞智能世界解決方案,賽靈思當(dāng)下正著重打造平臺(tái)和提供基本的要素,方便客戶(hù)和生態(tài)系統(tǒng)的合作伙伴更快的推出垂直整合的解決方案,并且在已有平臺(tái)的基礎(chǔ)上不斷的推陳出新,來(lái)滿(mǎn)足客戶(hù)需求,縮短上市時(shí)間。
賽靈思應(yīng)用商城 ( Xilinx App Store):料成年內(nèi)客戶(hù)優(yōu)選
賽靈思應(yīng)用商店(Xilinx App Store)是客戶(hù)能夠消費(fèi)上述解決方案和應(yīng)用的一種全新的方式,可非常輕松地幫助他們?nèi)ピu(píng)估、購(gòu)買(mǎi)并且部署有關(guān)應(yīng)用,同時(shí)還能夠幫助合作伙伴方便地管理許可證,更方便地通過(guò)數(shù)字、知識(shí)產(chǎn)權(quán)的管理計(jì)劃來(lái)獲取相關(guān)數(shù)據(jù),更好地推送給客戶(hù)。
這個(gè)應(yīng)用是一項(xiàng)重要突破,尤其體現(xiàn)在客戶(hù)對(duì)于解決方案和應(yīng)用的可獲得性和易用性方面。
例如,在Xilinx App Store上,開(kāi)發(fā)者就可以免費(fèi)使用VMSS框架,還可免費(fèi)下載 開(kāi)源的P4、C或者C++語(yǔ)言等。
賽靈思數(shù)據(jù)中心市場(chǎng)營(yíng)銷(xiāo)總監(jiān)Ed Wright預(yù)計(jì),新推出的賽靈思應(yīng)用商店將會(huì)成為今年客戶(hù)評(píng)估并且部署加速解決方案和應(yīng)用的優(yōu)選方式。
豐富且可組合的解決方案:更好地服務(wù)于中國(guó)新基建
對(duì)于賽靈思來(lái)說(shuō),中國(guó)的數(shù)據(jù)中心市場(chǎng)是非常重要的一個(gè)目標(biāo)市場(chǎng),無(wú)論是超大規(guī)模的數(shù)據(jù)中心,還是邊緣到企業(yè)。而賽靈思解決方案的差異化優(yōu)勢(shì),就是可編程、可組合的智能網(wǎng)卡產(chǎn)品,這是包括SmartNIC和人工智能產(chǎn)品,以及金融加速產(chǎn)品在內(nèi)的所有產(chǎn)品系列的共性。
Kartik強(qiáng)調(diào),賽靈思不僅僅是有直接提供的器件、工具,還聯(lián)手合作伙伴共同推出的豐富和優(yōu)秀的垂直整合的解決方案,相信能夠大幅縮短產(chǎn)品的上市時(shí)間,服務(wù)于中國(guó)的新基建建設(shè)。