在MMLU、C-Eval、GSM8K、HumanEval、MATH等10個主流Benchmark測評集上,通義千問2.0的得分整體超越Meta的Llama-2-70B,相比OpenAI的Chat-3.5是九勝一負,相比GPT-4則是四勝六負,與GPT-4的差距進一步縮小。
中英文理解能力是大語言模型的基本功。英語任務方面,通義千問2.0在MMLU基準的得分是82.5,僅次于GPT-4,通過大幅增加參數(shù)量,通義千問2.0能更好地理解和處理復雜的語言結(jié)構(gòu)和概念;中文任務方面,通義千問2.0以明顯優(yōu)勢在C-Eval基準獲得最高得分,這是由于模型在訓練中學習了更多中文語料,進一步強化了中文理解和表達能力。
在數(shù)學推理、代碼理解等領域,通義千問2.0進步明顯。在推理基準測試GSM8K中,通義千問排名第二,展示了強大的計算和邏輯推理能力;在HumanEval測試中,通義千問得分緊跟GPT-4和GPT-3.5,該測試主要衡量大模型理解和執(zhí)行代碼片段的能力,這一能力是大模型應用于編程輔助、自動代碼修復等場景的基礎。
通義千問更成熟了,也更好用了。通義千問2.0在指令遵循、工具使用、精細化創(chuàng)作等方面作了技術(shù)優(yōu)化,能夠更好地被下游應用場景集成。通義大模型官網(wǎng)上線了多模態(tài)和插件功能,支持圖片輸入、文檔解析等細分任務。
與此同時,基于通義大模型訓練的8大行業(yè)模型組團上線,他們分別是通義靈碼-智能編碼助手、通義智文-AI閱讀助手、通義聽悟-工作學習AI助手、通義星塵-個性化角色創(chuàng)作平臺、通義點金-智能投研助手、通義曉蜜-智能客服、通義仁心-個人專屬健康助手、通義法睿-AI法律顧問。8大行業(yè)模型面向當下最受歡迎的多個垂直場景,使用領域數(shù)據(jù)進行專門訓練。用戶可以在官網(wǎng)直接體驗模型功能,開發(fā)者可以通過網(wǎng)頁嵌入、API/SDK調(diào)用等方式,將模型能力集成到自己的大模型應用和服務中。
截至10月,阿里云已與60多個行業(yè)頭部伙伴進行深度合作,推動通義千問在辦公、文旅、電力、政務、醫(yī)保、交通、制造、金融、軟件開發(fā)等領域的落地。
周靖人透露,阿里云計劃近期開源通義千問72B版本,此前,阿里云已先后開源7B和14B版本模型,模型累計下載量超過100萬。阿里云將持續(xù)支持千行百業(yè)的開發(fā)者基于通義千問開源模型進行模型和應用創(chuàng)新。