封面.jpg?x-oss-process=image%2Fquality,q_50%2Fresize,m_fill,w_220,h_150)
清華團(tuán)隊(duì)極限優(yōu)化，4090單卡即可運(yùn)行滿血版DeepSeek！
最近，KTransformers項(xiàng)目團(tuán)隊(duì)宣布，支持讓滿血版DeepSeek在英偉達(dá)RTX 4090D顯卡上運(yùn)行。RTX 4090D是一個(gè)游戲顯卡，目前電商零售價(jià)大概在3萬人民幣左右，它能以極低的成本在本地運(yùn)行滿血版的DeepSeek-R1模...
共 2 篇文章
標(biāo)簽：4090
朱 朋博
昆侖萬維開源2千億稀疏大模型天工MoE，全球首創(chuàng)能用4090推理
2024年6月3日，昆侖萬維宣布開源 2 千億稀疏大模型 Skywork-MoE ， 性能強(qiáng)勁， 同時(shí)推理成本更低。Skywork-MoE 基于之前昆侖萬維開源的 Skywork-13B 模型中間 checkpoint 擴(kuò)展而來，是首個(gè)完整...