《MaaS模型即服務(wù)技術(shù)與應(yīng)用要求 第7部分:大模型API服務(wù)性能測(cè)試方法》標(biāo)準(zhǔn)(AIIA/T 0221-2025)

模型即服務(wù)(MaaS)已成為大模型應(yīng)用落地的主要模式之一,MaaS平臺(tái)為用戶提供便捷、靈活、低門檻的大模型服務(wù),是重要的支撐平臺(tái)。但不同平臺(tái)上所提供的大模型服務(wù)能力參差不齊,中國(guó)信通院已發(fā)布一套全方位評(píng)估體系來衡量大模型API服務(wù)效能和MaaS平臺(tái)能力,即《MaaS模型即服務(wù)技術(shù)與應(yīng)用要求》。

本次深信服參與編制的文件為該標(biāo)準(zhǔn)的第7部分,有效填補(bǔ)了大模型API服務(wù)性能評(píng)估標(biāo)準(zhǔn)的空白。該標(biāo)準(zhǔn)主要規(guī)范和明確了以下內(nèi)容:

性能測(cè)試的軟、硬件環(huán)境要求;

關(guān)鍵性能測(cè)試指標(biāo)及計(jì)算方法,多種測(cè)試類型及測(cè)試場(chǎng)景;

性能測(cè)試過程中的測(cè)試數(shù)據(jù)集選擇原則和系統(tǒng)資源監(jiān)控范圍;

大模型API服務(wù)性能測(cè)試流程設(shè)計(jì)、數(shù)據(jù)集選擇、性能指標(biāo)計(jì)算方式和評(píng)價(jià)維度。

在本次標(biāo)準(zhǔn)編制過程中,深信服憑借在大模型技術(shù)上的深入探索以及對(duì)私有化大模型算力平臺(tái)構(gòu)建的豐富實(shí)踐經(jīng)驗(yàn),為標(biāo)準(zhǔn)的科學(xué)性、實(shí)用性與前瞻性貢獻(xiàn)了重要力量。

從安全GPT大模型到AICP算力平臺(tái)的發(fā)布,深信服長(zhǎng)期布局AI產(chǎn)業(yè),已有深厚的AI能力積累。近期,深信服還將整合技術(shù)能力,升級(jí)AI創(chuàng)新平臺(tái),打造新智算時(shí)代的AI Infra平臺(tái),不僅為用戶提供高性能、穩(wěn)定、安全的平臺(tái)能力,更為用戶實(shí)現(xiàn)端到端AI應(yīng)用建設(shè)TCO優(yōu)化,讓各行業(yè)用戶以更輕松的方式擁抱AI。

未來,深信服會(huì)繼續(xù)扎根AI技術(shù)研究,積極參與標(biāo)準(zhǔn)建設(shè),參與建設(shè)更繁榮的生態(tài),為各行業(yè)落地大模型提供更有效的能力,打造更健康的行業(yè)環(huán)境。

xiesc