所謂專業(yè)的人做專業(yè)的事情，引入DPU與高性能的以太網(wǎng)網(wǎng)絡(luò)平臺和InfiniBand網(wǎng)絡(luò)網(wǎng)絡(luò)平臺將是提高網(wǎng)絡(luò)傳輸效率的關(guān)鍵，其中，高性能網(wǎng)絡(luò)好理解，主要解決傳輸帶寬的問題，因此關(guān)鍵在于DPU的使用。

通過集成ARM、ASIC和RISC-V處理器，NVIDIA BlueField-3 DPU可以對包括SDN軟件定義網(wǎng)絡(luò)、NGFW新一代防火墻、數(shù)據(jù)存儲加速，DOCAFLOW 庫、通信通道（Communication Channel）庫、正則表達(dá)式（RegEx）庫、App Shield  SDK以及OVN IPsec 加密完全卸載等功能進(jìn)行單獨(dú)處理和加速，對遙測（Telemetry）、基于主機(jī)的網(wǎng)絡(luò)（Host Based Networking）以及流量檢測器（Flow Inspector）等功能服務(wù)進(jìn)行了加強(qiáng)。如此一來，在降低CPU、GPU消耗的同時(shí)，大大提升網(wǎng)絡(luò)處理和傳輸?shù)男?。其中的原理也很簡單，一來CPU、GPU不擅長處理這些事情，二來讓CPU、GPU處理也消耗帶寬的資源，增加等待的時(shí)間。

除此之外，DPU也被用于加速云計(jì)算，支持云托管更多虛擬實(shí)例；被用于多租戶云的安全隔離，將業(yè)務(wù)應(yīng)用域和基礎(chǔ)設(shè)施域進(jìn)行隔離，提供零信任安全的部署的平臺；可以對Redis事務(wù)處理等進(jìn)行加速，通過IPsec功能卸載，提升效率的同時(shí)，降低數(shù)據(jù)中心的能耗。

如果說，DPU的引入是關(guān)鍵，那么，DOCA 就將為DPU注入靈魂，這是一個(gè)面向DPU開發(fā)者的軟件開發(fā)平臺，如今，DOCA迎來了新的2.0 版本。

據(jù)了解，以后的BlueField 系列DPU都是運(yùn)行在DOCA軟件架構(gòu)之上，它實(shí)現(xiàn)了底層硬件從驅(qū)動(dòng)、庫到相關(guān)的加速，很多功能都可以被卸載到DOCA，它向上提供編程接口，方便開發(fā)者利用DOCA進(jìn)行編程。目前DOCA向下兼容以前的版本，比如最新發(fā)布的DOCA 2.0，也能運(yùn)行在上一代BlueField-2 DPU上，差別在于有些功能沒有辦法完全實(shí)現(xiàn)。

DOCA環(huán)境非常體系化，分為SDK、RUNTIME運(yùn)行時(shí)兩部分，其中，SDK主要是驅(qū)動(dòng)庫、開發(fā)工具包括X86筆記本電腦上去模擬DPU構(gòu)建的ARM開發(fā)環(huán)境，讓你在筆記本電腦上也可以做DOCA的開發(fā)。而RUNTIME運(yùn)行時(shí)提供了基本的DOCA服務(wù)，以及一些組件和一些已經(jīng)寫好的參考程序，用于幫助IT管理員和運(yùn)維人員簡化部署。

DOCA服務(wù)包括遙測等簡單的功能，可以通過NGC可以簡化部署，不用敲那么多命令行，幾乎一鍵式就部署在服務(wù)器、甚至數(shù)據(jù)中心。通過虛擬化、遷移手段可以對不同硬件，比如x86進(jìn)行遷移。

通過引入了DPA計(jì)算子系統(tǒng)（基于RISC-V），BlueField-3 DPU可以對設(shè)備仿真、IO密集型應(yīng)用、高插入率、網(wǎng)絡(luò)流處理和客戶協(xié)議、集合和DMA操作進(jìn)行了優(yōu)化。

新的BlueField-3 DPU中改進(jìn)了Regex  硬件引擎，增加了多項(xiàng)硬件增強(qiáng)的功能，如雙向搜索，可以更快的找到自己需要的匹配相關(guān)內(nèi)容的包；與此同時(shí)，在網(wǎng)絡(luò)安全、應(yīng)用軟件/主機(jī)安全和應(yīng)用協(xié)議識別和數(shù)據(jù)庫加速等，新的功能非常有助于預(yù)防高并發(fā)的DDos攻擊，實(shí)現(xiàn)高性能的惡意軟件檢測，有助于提升大語言模型AI訓(xùn)練的效率。

BlueField-3 DPU新增加了用于提升存儲特性的SNAP  v4，直接從DPU將相關(guān)數(shù)據(jù)交給GPU做訓(xùn)練，不用再經(jīng)過CPU調(diào)度。未來，SNAP  v4會被NVIDIA放在NGC，即可一鍵部署。

工欲善其事必先利其器，AI大模型也好，高性能計(jì)算也好，正在逐步演變?yōu)镈PU之爭，效率將會成功關(guān)鍵要素，需要引起足夠的關(guān)注。

songjy