寶德計算IA BU副總經(jīng)理鄔鴻表示，寶德AI計算持續(xù)為構(gòu)建智慧化社會提供堅實的算力支撐，助力實現(xiàn)人、機、物的深度協(xié)同與融合，共同塑造一個更加美好的未來世界。
AIGC產(chǎn)業(yè)發(fā)展進入“加速度”時代，交互虛擬人、Al繪畫、營銷文本生成、個性頭像生成等多模態(tài)內(nèi)容服務(wù)，正賦能傳統(tǒng)產(chǎn)業(yè)的數(shù)字轉(zhuǎn)型。隨著產(chǎn)業(yè)鏈的逐步完善和商業(yè)化場景的進一步拓展，預(yù)計到2030年，AIGC市場規(guī)模將超萬億。
隨著AI及大模型技術(shù)的飛速發(fā)展，算力需求呈現(xiàn)指數(shù)級增長態(tài)勢。大模型算力需求每兩年以750倍增長，而硬件算力供給每兩年僅增長3倍。比如，從ResNet-50（2500萬參數(shù)），到GPT-1（1.7億參數(shù)），再到GPT-4（萬億級參數(shù)），計算需求需要十倍，到千倍的增長，存儲需求經(jīng)歷百倍，到千倍的增長。AI算力和數(shù)據(jù)中心集群發(fā)展，可以加速產(chǎn)業(yè)創(chuàng)新。
算力、存力與數(shù)據(jù)要素已成為推動行業(yè)變革和社會進步的關(guān)鍵力量。作為國內(nèi)領(lǐng)先的AI算力提供商和AI服務(wù)器TOP3企業(yè)，寶德計算充分發(fā)揮其自身在人工智能算力底座和智能算力中心建設(shè)方面的技術(shù)經(jīng)驗和優(yōu)勢，匠心打磨了涵蓋AI訓(xùn)練、AI推理、AI邊緣、AI終端以及AI集群、AICA、AIGC、AI大模型等應(yīng)用場景的多元算力產(chǎn)品和解決方案，并積極在軟硬件層面不斷進行調(diào)優(yōu)創(chuàng)新，致力于賦能千行百業(yè)數(shù)智化轉(zhuǎn)型，加速推動社會向智能化時代邁進。
在硬件層面，以寶德大模型AI訓(xùn)練服務(wù)器PR8908EV為例，它采用2顆第四/五代英特爾?至強?可擴展處理器，支持8張GPU加速卡，能為大模型訓(xùn)練和推理提供強有力的算力支撐；它最大支持12個PCIE插槽，支持8個 NVMe SSD，提供了充足的擴展空間和高速的存儲性能，確保大模型數(shù)據(jù)的快速讀寫。同時具有CPU到GPU的端到端無阻塞帶寬靈活的配置，支持32個 DIMM / DDR5內(nèi)存插槽，以及最新的400Gb ETH和 IB高速智能網(wǎng)卡，輕松滿足大內(nèi)存容量需求，實現(xiàn)了高速、低延遲的數(shù)據(jù)傳輸。此外，8U空間的整機模塊化設(shè)計，更有利于方便維護管理，是大模型訓(xùn)練和推理應(yīng)用的不二選擇。
在軟件層面，寶德智算平臺PLStack是基于 Docker + K8s技術(shù)實現(xiàn)整合現(xiàn)有計算設(shè)備資源，實現(xiàn)更好的對資源的分配、管理、調(diào)度和監(jiān)控的能力。緩解深度學(xué)習(xí)算法訓(xùn)練的瓶頸，提高資源利用率，從而釋放人工智能的全新能力，降低 AI 技術(shù)門檻，釋放AI 技術(shù)潛力，幫助用戶將更多的精力集中到垂直應(yīng)用的工作領(lǐng)域。而且，PLStack平臺支持多種主流深度學(xué)習(xí)框架方便快速部署訓(xùn)練環(huán)境，并且支持多人在線實驗，并能夠通過更直觀的UI 界面對資源進行管理。
據(jù)了解，寶德計算在國內(nèi)建成深圳永達、深圳觀湖、四川樂山、湖南湘潭、廣西南寧、陜西西安、河北張家口、江蘇南京、北京昌平和廣東珠海，十大智能生產(chǎn)基地，同時，與產(chǎn)業(yè)鏈上下游伙伴建立了繁榮的計算產(chǎn)業(yè)生態(tài)。
更多演講內(nèi)容敬請關(guān)注會后專題 https://sdss.doit.com.cn/2024/#/home
