第五代英特爾? 至強? 可擴展處理器為AI加速而生,擁有更可靠的性能和更出色的能效。相較上一代,第五代英特爾? 至強? 可擴展處理器訓練性能提升高達29%,推理性能提升高達42%,在相同TDP下平均性能提升高達21%,內存帶寬提升高達16%,三級緩存容量提升2.7倍,可顯著提高內存帶寬約束型和時延敏感型工作負載的性能。

寧暢G50系列服務器涵蓋通用機架服務器、人工智能服務器、邊緣計算服務器等多種類型。全新的G50系列在內存通道等方面進行重要升級,基于最新的第五代英特爾? 至強? 可擴展處理器能夠進一步釋放AI潛能,為更多需求場景提供高性價比的強大算力支撐。

以寧暢高密度計算服務器B5000 G5為例,通過搭載第五代英特爾? 至強? 可擴展處理器,可執(zhí)行多個、多種AI推理任務,實現(xiàn)高模型并發(fā)。在大語言模型領域,寧暢B5000 G5 4節(jié)點可同時支持28個70B百億大模型并發(fā),單節(jié)點可支持72個7B大語言模型并發(fā),僅0.117秒即可實現(xiàn)以文生文(文章續(xù)寫與擴寫)。在以文生圖領域,B5000 G5單節(jié)點,不到3秒就可根據(jù)任意文本輸入生成極具逼真度和細節(jié)的高質量圖像。在圖像識別領域,B5000 G5 單節(jié)點 1秒鐘可分類5566張圖像,對比第四代性能提升近10%。

寧暢將加快創(chuàng)新腳步,與英特爾等合作伙伴攜手滿足廣大用戶對更高效算力的需求,開創(chuàng)AI應用的無限可能。

分享到

zhupb

相關推薦