(北京大學(xué)力學(xué)與工程科學(xué)學(xué)院、北京科學(xué)智能研究院研究員 陳幟)

由北京大學(xué)計算機(jī)學(xué)院副研究員楊智團(tuán)隊主導(dǎo)開發(fā)的開源 AI 算子編程語言 TileLang是算子開發(fā)的典型成果之一。該團(tuán)隊核心成員董宇騏分享到其核心價值在于能夠?qū)⒏呒墑e的數(shù)據(jù)流描述,自動轉(zhuǎn)換并優(yōu)化為高效的底層代碼(如Ascend C)。通過其獨(dú)特的Tile級抽象和自動調(diào)度能力,開發(fā)者可以用更簡潔的代碼表達(dá)復(fù)雜計算,同時獲得接近手寫算子的高性能,顯著提升了AI算子的開發(fā)效率。TileLang實現(xiàn)了FlashAttention算子開發(fā),代碼量從500+行減少至80行,并保持了與官方版本持平的性能。

(北京大學(xué)計算機(jī)學(xué)院研究生、楊智團(tuán)隊核心成員 董宇騏)

東南大學(xué)計算機(jī)科學(xué)與工程學(xué)院副教授楊旭主導(dǎo)團(tuán)隊分享了圍繞多模態(tài)大模型的類比、抽象與推理能力展開系統(tǒng)性研究。在昇騰算力支持下,團(tuán)隊提出啟發(fā)式上下文策略、可學(xué)習(xí)上下文向量LIVE等方法,顯著提升視覺問答任務(wù)中的學(xué)習(xí)效率與推理速度。進(jìn)一步地,團(tuán)隊基于規(guī)則獎勵的強(qiáng)化學(xué)習(xí)框架LMM-R1,通過兩階段訓(xùn)練增強(qiáng)多模態(tài)模型的推理能力,并在動態(tài)微調(diào)DFT方法中統(tǒng)一監(jiān)督學(xué)習(xí)與強(qiáng)化學(xué)習(xí)的優(yōu)化視角,為輕量化模型實現(xiàn)高效知識遷移與泛化能力提升提供了新路徑。

(東南大學(xué)計算機(jī)科學(xué)與工程學(xué)院副教授 楊旭)

在鯤鵬昇騰種子計劃的助力下,眾多來自高校的創(chuàng)新開始成功走向市場,科研團(tuán)隊紛紛成立初創(chuàng)企業(yè)。它們致力于將先進(jìn)的學(xué)術(shù)理念轉(zhuǎn)化為可實際部署的解決方案,展示了他們對市場的敏銳嗅覺及強(qiáng)大的技術(shù)轉(zhuǎn)化和產(chǎn)業(yè)落地能力。

多模態(tài)大模型重新定義了AI的邊界與可能。魔芯科技CEO、浙江大學(xué)計算機(jī)科學(xué)與技術(shù)學(xué)院博士研究生陳天潤帶領(lǐng)團(tuán)隊,構(gòu)建了首個基于昇騰的3D空間智能大模型,基于數(shù)億真實物理世界數(shù)據(jù)訓(xùn)練,忠實反映了物理世界。該模型采用MindSpeed訓(xùn)練框架,在256卡昇騰集群上完成10萬場景訓(xùn)練,僅通過Decoder-Only Transformer即實現(xiàn)三維空間關(guān)系的自發(fā)學(xué)習(xí)。模型支持多視角輸入、新視點(diǎn)合成、語義編輯等功能,在虛擬漫游、數(shù)字孿生、機(jī)器人仿真等領(lǐng)域具備廣泛應(yīng)用潛力,推動三維內(nèi)容生成走向普惠化。

(魔芯科技CEO、浙江大學(xué)計算機(jī)科學(xué)與技術(shù)學(xué)院博士研究生 陳天潤)

清華系初創(chuàng)代表趨境科技的KTransformers引擎另辟蹊徑,專注于利用鯤鵬CPU與昇騰NPU的異構(gòu)協(xié)同技術(shù),打造出極致的推理加速技術(shù)。該引擎基于計算強(qiáng)度實施精準(zhǔn)負(fù)載分配策略,將混合專家模型中計算強(qiáng)度較低的路由專家層參數(shù)卸載至容量更大的鯤鵬CPU內(nèi)存,而將計算密度最高的多層潛在注意力層保留在昇騰NPU上執(zhí)行。通過針對鯤鵬多NUMA架構(gòu)的本地內(nèi)存分配與線程調(diào)度優(yōu)化、結(jié)合鯤鵬數(shù)學(xué)庫對大模型矩陣乘法實現(xiàn)的專項加速以及采用專家延遲計算技術(shù)有效重疊通信與計算過程,KTransformers在千億參數(shù)模型推理中實現(xiàn)了顯存占用降低百分之九十以上的顯著效果,為大規(guī)模模型部署提供了創(chuàng)新的底層技術(shù)支撐。

(趨境科技KTransformers引擎架構(gòu)師、清華大學(xué)計算機(jī)系博士 謝威宇)

前沿學(xué)術(shù)探索如源頭活水,而開發(fā)者始終是創(chuàng)新的關(guān)鍵所在。鯤鵬與昇騰社區(qū)通過提供體系化的課程、詳實的案例文檔、高效的工具軟件以及活躍的專家社群,全程陪伴開發(fā)者從學(xué)習(xí)到認(rèn)證、從創(chuàng)新到實踐的全周期成長。未來,鯤鵬與昇騰將繼續(xù)攜手全球開發(fā)者,以更開放的技術(shù)、更豐富的工具和更緊密的社區(qū)共創(chuàng),持續(xù)賦能開發(fā)者實現(xiàn)其創(chuàng)新價值,共同推動計算產(chǎn)業(yè)的智能化進(jìn)程。

分享到

zhupb

相關(guān)推薦