在模型訓推層面,騰訊云TI平臺提供從數據準備到模型精調、服務部署的全流程開發(fā)工具鏈。結合客戶部署和使用DeepSeek的需求,TI平臺提供了多種訓練和精調模式;在推理加速層面,通過深挖內核和架構延展,在精度幾乎無損的前提下,實現(xiàn)服務時延的大幅降低, 以及吞吐能力的大幅提升。
在大語言模型之外,TI平臺也提供了面向不同細分場景的解決方案。王麒表示,青島是一個底蘊深厚且活力迸發(fā)的制造業(yè)大市。面向制造業(yè),騰訊云 TIAOI平臺提供了先進的工業(yè)質檢方案,幫助企業(yè)利用AI提升質檢的效率和質量。
截至目前,騰訊云的工業(yè)質檢方案已經在20多個領域落地,覆蓋電子3C、鋰電制造、汽車零部件、半導體SMT等高端制造業(yè)核心板塊;年交付超過1000套軟件平臺,累計檢測超過2000萬件產品,顯著降低了瑕疵率,同時每年幫助企業(yè)節(jié)省超億元質檢成本。
在智能體開發(fā)層面,騰訊云也提供了完備的工具產品。不久前,騰訊云將大模型知識引擎全面升級為“騰訊云智能體開發(fā)平臺”,通過行業(yè)領先的RAG技術、全面的Agent能力、以及實戰(zhàn)打磨出來的匹配用戶需求的功能,幫助用戶在大模型時代快速構建智能體。
比如,騰訊云智能體開發(fā)平臺首創(chuàng)零代碼配置多Agent協(xié)同轉交能力,讓用戶能輕松實現(xiàn)Agent間協(xié)作,通過構建“多專家”體系,讓智能體組合處理更復雜的任務。在插件生態(tài)上,全面支持MCP協(xié)議,平臺預置了高質量的、豐富的插件,開箱即用;依托穩(wěn)定的工作流編排、多智能體協(xié)同機制和完善的MCP插件生態(tài),企業(yè)可以快速搭建高可用、可演進的專屬智能體系統(tǒng)。
王麒介紹,目前已經有眾多客戶通過智能體開發(fā)平臺的能力實現(xiàn)降本增效和業(yè)務創(chuàng)新。比如,一汽豐田搭建起客服Agent,幫助用戶自助排障,降低客服人力成本投入。目前,一汽豐田客服機器人獨立解決問題率已從37%提升為84%,知識問答準確率也提升到了81%。
頭部物流集團DHL通過智能體開發(fā)平臺,編排了50條企業(yè)專屬的工作流,快速搭建適合物流場景的智能服務,用AI自動接待客戶,完成查詢快件、修改地址和時間、寄送等服務。更重要的是,通過工作流的模式,一線業(yè)務人員也可以直接配置智能服務,大幅降低了AI技術的使用門檻。
以下為演講全文:
各位領導、嘉賓、媒體朋友們,大家上午好! 我是騰訊的王麒, 今天非常榮幸能在這里,與大家共同探討大模型時代下的新機遇。
今年以來,大模型技術的發(fā)展速度非常快,很多AI原生的應用在涌現(xiàn)。我們看到了幾個明確的趨勢:首先,大模型這項技術,與各類應用進一步融合,從AI原生到應用融合,正在重塑應用市場格局。
第二,訓練和推理的效率持續(xù)提升。通過算力管理調度、推理加速優(yōu)化等手段,算力的利用率不斷提升,模型的使用成本降低,這也進一步推動了模型在更多場景落地。
第三,智能體的加速落地。今年以來,智能體這個話題特別熱,通過智能體開發(fā)平臺類的工具,企業(yè)可以快速落地智能體,企業(yè)構建AI應用的門檻也正在降低。
在這樣的背景下,騰訊積極擁抱變化,開放共贏:我們堅持以長期投入的精神,繼續(xù)加強研發(fā)投入和優(yōu)質產品的開發(fā)。
在模型層面:我們堅定不移的推動全鏈路大模型自研,同時也積極擁抱先進的開源模型,讓用戶可以根據場景進行靈活選擇。
在C端應用層面:我們承載滿血版 DeepSeek的元寶已成為最受歡迎的AI應用之一,而元寶也正在變成一個AI基礎能力,與微信、騰訊文檔、騰訊新聞等各類應用融合創(chuàng)新。
比如用戶可以把騰訊新聞、微信公眾號等內容資源,一鍵分享到元寶進行分析和解讀,高效獲取內容干貨;比如元寶快速生成的PPT大綱也可以一鍵發(fā)布到騰訊文檔,生成高質量PPT。還有更多實用的能力,正在快速迭代。
在ToB領域:騰訊云也為企業(yè)提供全鏈路的 AI 原生服務。從基礎設施層、平臺工具層 、應用軟件層,我們也提供了全棧的AI服務能力,助力企業(yè)降本增效和價值飛躍。下面來一起看一下我們我們重點升級的AI服務能力。
騰訊云TI平臺是騰訊云面向實戰(zhàn)的大模型開發(fā)平臺,提供從數據準備到模型精調,到服務部署的全流程開發(fā)工具鏈。
在模型訓練層面:我們升級了精調工具鏈,支持更多訓練方式,同時支持訓推一體潮汐調度?;谶@個能力,TI平臺能在夜間,將在線推理業(yè)務的閑時算力,自動釋放給離線訓練任務和離線數據處理任務,從而大幅提升資源利用率。
來看這樣一個案例:某頭部消費電子企業(yè),基于TI平臺統(tǒng)一管理集團算力, 支撐了大模型和傳統(tǒng)CV小模型的研發(fā),應用在電視產品文案生成、視頻分析等場景?;赥I平臺提供的精調工具鏈和資源管理能力,AI研發(fā)整體提效50%以上, GPU資源利用率也提升超過80%。
在模型推理層面:TI平臺持續(xù)升級內置的Angel加速套件,以業(yè)界領先的推理加速能力,幫助企業(yè)降本。在技術升級方面,我們通過深挖內核和架構延展,在精度幾乎無損的前提下,實現(xiàn)服務時延的大幅降低, 以及吞吐能力的大幅提升。
比如某頭部新能源汽車制造商基于TI平臺統(tǒng)一納管算力部署DeepSeek專屬模型,支撐知識問答、營銷、座艙語音助手等多個業(yè)務場景。在使用TI平臺提供的Angel加速能力后,DeepSeek的模型綜合性能顯著提升,資源成本顯著降低。
青島是一個底蘊深厚且活力迸發(fā)的制造業(yè)大市,騰訊云也提供面向制造業(yè)的工業(yè)質檢方案。騰訊云 TIAOI-AI工業(yè)質檢平臺,專注于外觀缺陷質檢場景。在訓練端,通過TI-AOI訓練端訓練高精度工業(yè)質檢模型,并輸出SDK;在運營端,將訓練好的模型部署在產線機臺,進行視覺缺陷檢測。
截至目前,我們的工業(yè)質檢方案在20多個細分領域成功落地,包括電子3C、鋰電制造、汽車零部件、半導體SMT等高端制造業(yè)核心板塊;年交付超過1000套軟件平臺,累計檢測超過2000萬件產品,顯著降低瑕疵率,同時每年幫助企業(yè)節(jié)省超億元質檢成本。真正助力企業(yè)實現(xiàn)降本增效。
從模型到智能體,AI應用落地的門檻正在逐步降低。就在不久前,我們將大模型知識引擎全面升級為騰訊云智能體開發(fā)平臺,通過行業(yè)領先的RAG技術、全面的Agent能力、以及實戰(zhàn)打磨出來的匹配用戶需求的功能,幫助用戶在大模型時代快速構建智能體應用。
我們始終相信,企業(yè)的智能化能力,必須建立在對企業(yè)私域知識的深度激活和挖掘之上。因此我們在知識處理領域做了非常深的工作:我們的RAG能力行業(yè)領先,能夠實現(xiàn)從復雜 Excel表中精準提取答案,支持對接數據庫,通過Text2SQL,用戶用自然語言即可精準查詢、秒級返回。
支持從文檔自動生成問答對,并對完整的問答進行校對和管理,全流程可控,顯著降低運營人力投入的時間成本。同時,支持文檔間比對,輔助高效決策,支持版本對照,高亮增刪改的內容,支持僅對變更片段生成問答對,顯著降低token消耗。
在RAG基礎上,我們提供了全面的Agent能力支持。這些能力源自大量企業(yè)場景的實戰(zhàn)打磨,既保障了落地所需的穩(wěn)定性和確定性,又保留了對話智能的靈活性。
比如,我們在工作流中首創(chuàng)具備全局視野的Agent節(jié)點,支持參數回退和全局意圖洞察,讓對話表現(xiàn)得更靈活自然。
同時,我們首創(chuàng)零代碼配置多Agent協(xié)同轉交能力,讓用戶能輕松實現(xiàn)Agent間協(xié)作,通過構建“多專家”體系,讓智能體組合處理更復雜的任務。
在插件生態(tài)上,我們全面支持MCP協(xié)議,平臺預置了高質量的、豐富的插件,開箱即用;依托穩(wěn)定的工作流編排、多智能體協(xié)同機制和完善的MCP插件生態(tài),企業(yè)可以快速搭建高可用、可演進的專屬智能體系統(tǒng)。
同時,我們的平臺提供真正面向業(yè)務上線運營的全鏈路支持。從智能體發(fā)布上線,到后續(xù)的運營監(jiān)控、配置管理, 我們都有完善的運營管理后臺支持,助力實現(xiàn)精細化運維,并支持私有化部署,真正讓企業(yè)用得放心、運維省心。
這里我介紹兩個客戶案例:比如在一汽豐田,我們基于汽車行業(yè)大模型,提供汽車使用的客服Agent能力,幫助用戶自助排障,客服機器人獨立解決問題率已從37%提升為84%,知識問答準確率也提升到了81%,幫助客戶有效減少客服人力成本的投入。
頭部物流集團DHL通過智能體開發(fā)平臺,編排了50條企業(yè)專屬的工作流,快速搭建適合物流場景的智能服務,用AI自動接待客戶,并完成查詢快件、修改地址和時間、寄送等服務。更重要的是,通過工作流的模式,一線業(yè)務人員也可以直接配置智能服務,大幅降低了AI技術的使用門檻。
我們還有非常多的行業(yè)客戶,包括零售、政務、金融、消費電子、教育、醫(yī)療、出行等客戶落地案例。我們相信,隨著大模型的持續(xù)進化和各項工具的升級,性能指標和產品體驗會進一步得到優(yōu)化,智能體一定能夠成為企業(yè)和用戶的得力助手。
也歡迎大家試用我們的騰訊云智能體開發(fā)平臺。未來,騰訊也將圍繞客戶需求,持續(xù)打磨產品,為各行各業(yè)用好大模型、用好智能體提供助力!