據(jù)錢(qián)一峰介紹，圍繞核心計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)等產(chǎn)品，金山云順應(yīng)趨勢(shì)，深入探索前沿技術(shù)，從多個(gè)維度為人工智能提供支持。其中在計(jì)算方面，金山云推出第七代云服務(wù)器X7，搭載第四代英特爾至強(qiáng)可擴(kuò)展處理器、支持AMX原生加速能力，CPU性能較上代最高提升60%，內(nèi)存升級(jí)至DDR5，頻率較上一代性能提升50%。在網(wǎng)絡(luò)方面，金山云推出了ALB(Application Load Balancer，應(yīng)用型負(fù)載均衡)，單實(shí)例最大可支持100萬(wàn)QPS，針對(duì)云原生場(chǎng)景融合，金山云采用Ingress部署技術(shù)，實(shí)現(xiàn)了將金山云容器服務(wù)KCE、或用戶(hù)自建K8S集群、ALB等Kubernetes 集群內(nèi)服務(wù)對(duì)外部訪(fǎng)問(wèn)接入的暴露。此外，在存儲(chǔ)方面，金山云根據(jù)數(shù)據(jù)從極熱到極冷的不同熱度,構(gòu)建了不同性能類(lèi)型的對(duì)象存儲(chǔ)產(chǎn)品，其中對(duì)象存儲(chǔ)KS3極速型最高可提供1Tbps/PB的兌付帶寬，可為AIGC、存算分離和高性能計(jì)算等場(chǎng)景提供支撐。

“金山云為客戶(hù)提供靈活的混合云部署，并提供可持續(xù)性服務(wù)，這讓金山云更受歡迎。目前，已簽約及洽談商機(jī)的人工智能客戶(hù)達(dá)數(shù)十家?！?錢(qián)一峰說(shuō)。

公開(kāi)數(shù)據(jù)顯示，如今國(guó)內(nèi)大模型數(shù)量已經(jīng)超過(guò)200個(gè)，但真正被調(diào)用的大模型卻相對(duì)較少，能夠針對(duì)企業(yè)級(jí)市場(chǎng)(ToB)服務(wù)的更是寥寥無(wú)幾。

基于行業(yè)需求，金山云在2023年6月推出MaaS互信推理專(zhuān)區(qū)方案(MaaS 1.0)，通過(guò)在大模型廠(chǎng)商、用戶(hù)和金山云之間建立互信，解決了模型及數(shù)據(jù)的互信問(wèn)題。在本次溝通會(huì)上，金山云發(fā)布了MaaS互信推理專(zhuān)區(qū)方案2.0，在MaaS 1.0基礎(chǔ)上，MaaS 2.0以金山云IaaS和PaaS為底座，實(shí)現(xiàn)云上LangChain的一鍵部署，這是一個(gè)開(kāi)源框架,默認(rèn)對(duì)接多個(gè)生態(tài)合作商業(yè)或開(kāi)源大模型。

據(jù)孫曉介紹，為了促進(jìn)模型和數(shù)據(jù)的融合，在技術(shù)上MaaS 2.0提供了BGE、Bert等Embedding模型支持，無(wú)縫對(duì)接金山云Milvus全托管向量數(shù)據(jù)庫(kù)，借助標(biāo)準(zhǔn)化API接口和Web前端界面，通過(guò)支持RAG(Retrieval Augmented Generation，檢索增強(qiáng)生成)技術(shù)，實(shí)現(xiàn)了包括模型推理和知識(shí)庫(kù)搭建的RAG大模型場(chǎng)景應(yīng)用。此外，為進(jìn)一步增強(qiáng)安全性，MaaS 2.0依托金山云裸金屬服務(wù)，實(shí)現(xiàn)云上容器鏡像加密、加密鏡像上傳、解密鏡像等一系列技術(shù)服務(wù)。

錢(qián)一峰表示:大模型中立定位，將是金山云堅(jiān)定不移的策略。金山云將充分發(fā)揮自身的底座和平臺(tái)能力，做大模型的助力者。

為了做好大模型的助力者，金山云也在積極探索大模型時(shí)代企業(yè)賦能新機(jī)遇。金山云的思路是將自身的AIGC實(shí)踐和能力開(kāi)放出來(lái)。

同時(shí)，金山云圍繞企業(yè)級(jí)知識(shí)助手場(chǎng)景，制定了“一三一四”產(chǎn)品全景規(guī)劃服務(wù)。

所謂“一三一四”就是一套能力(金山云輕舟智問(wèn))、三個(gè)模型(行業(yè)語(yǔ)言模型、文本分片和Embedding模型)、一個(gè)平臺(tái)(金山云瀚海平臺(tái))及四大功能(微調(diào)推理、數(shù)據(jù)加速、智能檢索和文檔智能),大家可以把它理解為圍繞大模型訓(xùn)練、推理應(yīng)用的多項(xiàng)原子能力,既涉及了大模型落地應(yīng)用，如輕舟智問(wèn)服務(wù)，也兼顧了模型訓(xùn)練微調(diào)和平臺(tái)支撐的全棧能力。

在這里徐寅斐透露，金山云輕舟智問(wèn)知識(shí)助手的服務(wù)，就是結(jié)合Embedding模型、多路召回算法、智能數(shù)據(jù)切片模型等技術(shù)，計(jì)劃優(yōu)先在公共服務(wù)、法律場(chǎng)景落地。

“按照我們的實(shí)踐經(jīng)驗(yàn)，要想做好行業(yè)應(yīng)用推理，在模型訓(xùn)練的初期，從預(yù)訓(xùn)練開(kāi)始，就要結(jié)合行業(yè)數(shù)據(jù)，否則達(dá)不到預(yù)期中的效果?！?徐寅斐說(shuō)。

金山云將持續(xù)圍繞行業(yè)企業(yè)客戶(hù)需求“練內(nèi)功”，攜手生態(tài)伙伴以差異化打法布局未來(lái)。

錢(qián)一峰表示：“金山云輕舟智問(wèn)知識(shí)助手與金山云在大模型的‘中立定位’并不沖突，相反,這個(gè)過(guò)程可以幫助金山云更好的地了解大模型訓(xùn)練和推理，有助于提高大模型底座和平臺(tái)的技術(shù)能力?！?/p>

全面擁抱人工智能，在實(shí)踐的同時(shí)保持中立，金山云的思路讓人印象深刻，愿天下沒(méi)有難做的AIGC應(yīng)用。

songjy