。
3月18日，在英偉達舉辦的GTC?2024大會?上，群聯(lián)電子宣布與技嘉?(GIGABYTE)、華碩?(ASUS)、MAINGEAR、臺灣大哥大?(Taiwan?Mobile)?及聯(lián)發(fā)科技?(MediaTek)?建立?aiDAPTIV+技術(shù)合作伙伴關(guān)系，它和合作伙伴還展示了aiDAPTIV+技術(shù)方案——一種整合軟硬件的AI模型微調(diào)訓練解決方案，讓企業(yè)進行AI模型微調(diào)運算的過程中保證數(shù)據(jù)的安全性與不外流。
AI模型的預訓練可提供AI對語言或圖形等的通用理解，但群聯(lián)的「aiDAPTIV+」可賦能AI模型微調(diào)運算，將預訓練的AI模型塑造成能理解特定領(lǐng)域的專業(yè)工具?(例如符合律師、會計師、醫(yī)師、工程師等特殊領(lǐng)域的AI助理)，以提供符合各種專業(yè)領(lǐng)域所需的精確服務。
通用型工作站硬件透過 「aiDAPTIV+」軟件中間件和群聯(lián)獨家專利設計的aiDAPTIVCache系列ai100?SSD，將可讓現(xiàn)行的工作站計算機或是AI服務器訓練更大的AI模型。
這里，MAINGEAR 創(chuàng)始人兼執(zhí)行長 Wallace Santos 稱MAINGEAR 的 Pro AI 系列工作站采用群聯(lián)「aiDAPTIV+」技術(shù)，讓使用者能夠在不大幅增加成本的情況下，擁有大型AI語言模型微調(diào)訓練能力。技嘉科技執(zhí)行長李宜泰指出，aiDAPTIV+協(xié)助技嘉透過整合 SSD 至 AI 運算架構(gòu)，將 SSD 當作 DRAM 來使用，大幅降低 AI 模型微調(diào)運算的成本。
什么叫做?把SSD?當作?DRAM?來使用？
在AI模型訓練等高性能計算任務中，經(jīng)常需要處理的數(shù)據(jù)量遠超過GPU內(nèi)存的容量，需要頻繁地在GPU內(nèi)存和主存儲（如SSD）之間交換數(shù)據(jù)，影響計算效率。群聯(lián)的解決方案是在GPU內(nèi)存和SSD之間創(chuàng)造了一個“緩存層”，這個緩存層能部分承擔原本由GPU內(nèi)存要做的任務，從而在不顯著增加成本的情況下，間接擴大GPU的“工作內(nèi)存”，使其能夠處理更大的數(shù)據(jù)集，提高AI訓練的效率和規(guī)模。
群聯(lián)電子「aiDAPTIV+」還和聯(lián)發(fā)科技最新的人工智能平臺「MediaTek DaVinci」合作，使企業(yè)從訓練階段到實際運作大型AI模型的過程，都能維持對本地敏感信息的控制能力。
在 GTC 上，群聯(lián)電子還將展示全系列的 PCIe Gen5 生態(tài)系統(tǒng)產(chǎn)品，包括 X200 SSD、PS7100 系列 Redrivers 和 PS7200 系列 Retimers。
PCIe Gen5 SSD X200： 最高效能超過 14GB/s，在 U.2/U.3 和 E3.S 外形尺寸中，最高儲存容量達 32TB，能滿足數(shù)據(jù)中心和服務器的高效能與高容量需求。
PS7100 系列 Redrivers：采用 PHiTUNE AI 技術(shù)的 Redrivers，信號調(diào)節(jié)能力高達 20dB，可最大化主板布線，支持更長的走線長度。
PS7200 系列 Retimers：適用于企業(yè)和汽車應用的高階 Retimers，支持 CXL 2.0 和link分叉 (link bifurcation)，可在較長的訊號在線進行 PCIe Gen5 信號調(diào)節(jié)。
