以下內(nèi)容是此次直播內(nèi)容的提煉：

關(guān)鍵詞

姚欣 PPTV PPIO 分布式云 算力資源 AI算力 AI推理 互聯(lián)網(wǎng) 智算云 數(shù)據(jù)中心 公有云 大模型 GPU 計(jì)算中心 算力調(diào)度 云計(jì)算 生命周期 技術(shù)壁壘

摘要

成立于2018年的PPIO派歐云，專注打造分布式云服務(wù)，旨在整合分散的算力資源，為人工智能、音視頻、元宇宙等新一代場(chǎng)景，以更低成本提供更快速、更靈活的一站式算力、模型及邊緣計(jì)算服務(wù)。

姚欣分享了從首次創(chuàng)業(yè)到二次創(chuàng)業(yè)的心路歷程，強(qiáng)調(diào)算力產(chǎn)業(yè)的快速發(fā)展、面臨的挑戰(zhàn)及巨大機(jī)遇。

當(dāng)前，云計(jì)算市場(chǎng)需求與供給的不匹配，以及AI大模型驅(qū)動(dòng)下的算力需求快速增長(zhǎng)，顯示出算力行業(yè)正面臨新的挑戰(zhàn)與機(jī)遇。

姚欣指出，未來(lái)推理算力將超越訓(xùn)練算力成為重點(diǎn)。PPIO派歐云致力于通過(guò)持續(xù)的技術(shù)創(chuàng)新，提供高效經(jīng)濟(jì)的算力解決方案。

觀點(diǎn)

PPTV網(wǎng)絡(luò)電視依托P2P技術(shù)，曾是中國(guó)最大的視頻網(wǎng)絡(luò)之一。隨后，姚欣在2018年創(chuàng)立PPIO，專注于分布式云服務(wù)，利用碎片化和閑置算力資源，構(gòu)建了全國(guó)性的分布式云計(jì)算網(wǎng)絡(luò)，目前已在中國(guó)建立3700個(gè)算力節(jié)點(diǎn)。隨著AI技術(shù)發(fā)展，特別是大規(guī)模AI推理需求增加，PPIO進(jìn)軍AI算力行業(yè)，提供分布式的推理算力服務(wù)。 

姚欣回顧了云計(jì)算和算力建設(shè)的發(fā)展，指出早期互聯(lián)網(wǎng)企業(yè)傾向于自建數(shù)據(jù)中心，但隨著技術(shù)進(jìn)步，公有云成為更經(jīng)濟(jì)的解決方案。他強(qiáng)調(diào)，當(dāng)前智算行業(yè)處于早期發(fā)展階段，面臨資源浪費(fèi)、重復(fù)建設(shè)等挑戰(zhàn)，需要優(yōu)化算力使用效率，推動(dòng)算力資源的整合和共享，特別是在AI推理領(lǐng)域。

姚欣指出，算力的快速發(fā)展得益于大模型和AI技術(shù)的推動(dòng)，自己從使用者變?yōu)楣┙o者，這使得他能更好地洞察云計(jì)算市場(chǎng)，尤其是算力供需匹配方面的挑戰(zhàn)。PPIO作為分布式云的定位，旨在解決市場(chǎng)上的調(diào)度、資源利用率和成本問(wèn)題，通過(guò)應(yīng)用反哺供給側(cè)的“飛輪效應(yīng)”來(lái)推動(dòng)市場(chǎng)發(fā)展。

問(wèn)答回顧

主持人：您對(duì)于當(dāng)前算力市場(chǎng)的發(fā)展觀察是什么？

姚欣：算力話題并非新事物，其發(fā)展與云計(jì)算緊密相連。過(guò)去十年間，從大家開(kāi)始接觸、接受并上云，到最近三年GPU為主的智算云發(fā)展，這兩大發(fā)展過(guò)程有相似之處。早期企業(yè)傾向于自建數(shù)據(jù)中心，但隨著技術(shù)和市場(chǎng)的發(fā)展，大家逐漸認(rèn)識(shí)到使用公有云服務(wù)的優(yōu)勢(shì)。如今，智算業(yè)務(wù)正處在早期數(shù)據(jù)中心建設(shè)階段，預(yù)計(jì)未來(lái)會(huì)面臨資源浪費(fèi)問(wèn)題，需要整合碎片化算力資源以提高效率。

主持人：您如何看待目前算力行業(yè)供需匹配的問(wèn)題？

姚欣：當(dāng)前算力行業(yè)供需失衡的現(xiàn)象明顯，部分小型數(shù)據(jù)中心因缺乏規(guī)模化效應(yīng)而利用率不高，出現(xiàn)閑置和供大于求的情況。從長(zhǎng)期看，無(wú)論是互聯(lián)網(wǎng)、移動(dòng)互聯(lián)網(wǎng)、云計(jì)算還是AI應(yīng)用及其基礎(chǔ)設(shè)施，都經(jīng)歷過(guò)周期性的供需不匹配階段，半導(dǎo)體元器件如服務(wù)器、GPU等底層硬件也會(huì)經(jīng)歷供大于求和供小于求的周期性波動(dòng)。因此，作為算力行業(yè)，在面對(duì)短期市場(chǎng)波動(dòng)時(shí)要有清醒的認(rèn)識(shí)，同時(shí)也要看到長(zhǎng)期來(lái)看，隨著最終需求的持續(xù)增長(zhǎng)，算力行業(yè)仍有很大價(jià)值和發(fā)展空間。

主持人：與云計(jì)算相比，智算有哪些相同和不同的地方？

姚欣：相同之處在于兩者都對(duì)電力的需求較高，不同之處在于智算對(duì)電力的單位密度需求更高。在當(dāng)前智算中心中，電費(fèi)成本可能占到運(yùn)營(yíng)總成本的一半左右，而在云計(jì)算時(shí)代，電費(fèi)僅占20%左右。此外，電力的價(jià)格在中國(guó)不同城市和地區(qū)間存在巨大差異，這種價(jià)差在智算時(shí)代對(duì)GPU算力價(jià)格的影響變得非常顯著。

主持人：智算時(shí)代數(shù)據(jù)中心面臨的挑戰(zhàn)有哪些？

姚欣：智算時(shí)代數(shù)據(jù)中心面臨的挑戰(zhàn)主要有三個(gè)：一是面臨重復(fù)建設(shè)的問(wèn)題，各個(gè)企業(yè)都在建立數(shù)據(jù)中心，未來(lái)需要整合利用；二是能源價(jià)格的波動(dòng)，需要進(jìn)行算力調(diào)度以降低成本；三是如何延長(zhǎng)GPU等計(jì)算設(shè)備的生命周期，實(shí)現(xiàn)其在不同任務(wù)如訓(xùn)練、推理等方面的高效利用，類似動(dòng)力電池的梯次利用。

主持人：您為什么選擇分布式云這個(gè)賽道，并如何打造差異化競(jìng)爭(zhēng)力？

姚欣：選擇分布式云賽道的原因是看中云計(jì)算作為天花板足夠高的萬(wàn)億級(jí)大行業(yè)，且增長(zhǎng)持續(xù)。同時(shí)，在市場(chǎng)格局已經(jīng)形成的背景下，尋找一條與眾不同的獨(dú)特路徑，借鑒共享經(jīng)濟(jì)（如airbnb）的模式創(chuàng)新，整合閑置的算力和IDC資源，為客戶提供新穎的服務(wù)模式，從而實(shí)現(xiàn)差異化競(jìng)爭(zhēng)。

主持人：在2018年，中國(guó)建設(shè)了大量機(jī)房和機(jī)柜，但平均使用率卻只有40%，存在大量閑置資源，能否詳細(xì)說(shuō)明一下這個(gè)問(wèn)題以及背后的多種原因？

姚欣：當(dāng)時(shí)全中國(guó)在一年內(nèi)建設(shè)了300萬(wàn)個(gè)機(jī)柜，但第二年的平均使用率僅為40%，這意味著超過(guò)一半的機(jī)柜空間被浪費(fèi)了。造成這一現(xiàn)象的原因有多方面：一是部分機(jī)房建在偏遠(yuǎn)地區(qū)，無(wú)法有效利用；二是有些機(jī)房建得較小，只能容納較少的服務(wù)器設(shè)備；三是由于銷售策略的問(wèn)題，一些供應(yīng)商在面對(duì)最小采購(gòu)單位要求十個(gè)機(jī)柜起購(gòu)時(shí)，導(dǎo)致剩余的少量機(jī)柜難以出售，造成資源碎片化和閑置。

主持人：PPIO采取了什么創(chuàng)新方式來(lái)應(yīng)對(duì)云計(jì)算資源利用率問(wèn)題？

姚欣：PPIO通過(guò)整合現(xiàn)有閑置資源，采用類似airbnb的整合模式來(lái)進(jìn)行云計(jì)算創(chuàng)新的機(jī)會(huì)，無(wú)需額外投資建設(shè)新資產(chǎn)。我們致力于解決找到閑置機(jī)房資源和調(diào)度使用這些碎片化資源的技術(shù)挑戰(zhàn)，以提高整體資源利用率。

主持人：PPIO是如何從早期集中式小集群向分布式的節(jié)點(diǎn)資源能力轉(zhuǎn)變的？

姚欣：PPIO通過(guò)一系列推演發(fā)現(xiàn)，隨著用戶規(guī)模的增長(zhǎng)，集中式小集群無(wú)法滿足大規(guī)模分布式計(jì)算的需求。因此，逐步將產(chǎn)品演變?yōu)橹С职偃f(wàn)和千萬(wàn)級(jí)別用戶訪問(wèn)的分布式節(jié)點(diǎn)資源架構(gòu)，最終推出派歐算力云產(chǎn)品，集成大模型API、serverless和推理加速引擎等技術(shù)，以更高的性價(jià)比降低AI應(yīng)用成本，簡(jiǎn)化搭建過(guò)程。

主持人：PPIO為何會(huì)選擇進(jìn)入這個(gè)領(lǐng)域，以及在這一領(lǐng)域的競(jìng)爭(zhēng)優(yōu)勢(shì)是什么？

姚欣：PPIO憑借其在管理用戶側(cè)千家萬(wàn)戶電腦應(yīng)用服務(wù)的經(jīng)驗(yàn)，能夠有效管理機(jī)房和機(jī)柜資源。盡管2018年我們才開(kāi)始創(chuàng)業(yè)并逐步發(fā)展商業(yè)化，但是利用已有的技術(shù)能力和團(tuán)隊(duì)，整合碎片化機(jī)房資源相對(duì)容易。特別是在疫情期間音視頻需求激增的背景下，團(tuán)隊(duì)整合資源的能力得到了驗(yàn)證。

主持人：PPIO如何定位自己在云計(jì)算中的角色，并針對(duì)資源調(diào)度、利用率提升和成本問(wèn)題推出的產(chǎn)品或服務(wù)有哪些？

姚欣：PPIO扮演著承上啟下的角色，致力于提升算力資源的調(diào)度效率和利用率，降低使用成本。我們推出的PPIO產(chǎn)品和服務(wù)就是針對(duì)解決當(dāng)前云計(jì)算中的調(diào)度問(wèn)題、資源利用率問(wèn)題以及成本問(wèn)題，通過(guò)提供高彈性、低成本且方便使用的大型推理服務(wù)，以應(yīng)對(duì)未來(lái)AI應(yīng)用普及帶來(lái)的挑戰(zhàn)。

主持人：PPIO是否考慮了從需求側(cè)出發(fā)，預(yù)測(cè)未來(lái)市場(chǎng)發(fā)展需求來(lái)構(gòu)建基礎(chǔ)設(shè)施？

姚欣：PPIO從需求側(cè)出發(fā)，預(yù)判未來(lái)幾年市場(chǎng)對(duì)計(jì)算需求的增長(zhǎng)趨勢(shì)，比如人工智能、5G、數(shù)字人、云游戲等領(lǐng)域的興起。算力供給問(wèn)題與應(yīng)用場(chǎng)景落地問(wèn)題應(yīng)結(jié)合考慮，從而提供相應(yīng)的基礎(chǔ)設(shè)施，如分布式節(jié)點(diǎn)資源能力，以滿足大規(guī)模分布式計(jì)算的需求，并確保服務(wù)的安全穩(wěn)定性。

主持人：對(duì)于模型的應(yīng)用廠商和使用者，如何通過(guò)一個(gè)平臺(tái)實(shí)現(xiàn)GPU資源的彈性使用？

姚欣：我們擁有一個(gè)統(tǒng)一的算力平臺(tái)，用戶可以將模型加載上去，根據(jù)需求在全國(guó)各地彈性和按需使用GPU資源。這種模式下，用戶只需為實(shí)際使用的資源付費(fèi)，不再需要預(yù)先占用資源，相比目前的AI計(jì)算裸金屬時(shí)代按月或按小時(shí)租用的方式更為靈活經(jīng)濟(jì)。

主持人：PPIO如何解決大規(guī)模應(yīng)用推理的問(wèn)題，并推出了哪些方案？

姚欣：我們推出了一種基于服務(wù)的分布式GPU網(wǎng)絡(luò)，當(dāng)大規(guī)模應(yīng)用需要更多資源時(shí)，系統(tǒng)會(huì)自動(dòng)調(diào)配更多GPU和服務(wù)器以滿足十萬(wàn)、百萬(wàn)甚至上億級(jí)用戶的訪問(wèn)需求。這一方案幫助大規(guī)模應(yīng)用推理更方便落地。

主持人：大模型技術(shù)對(duì)云市場(chǎng)和算力市場(chǎng)產(chǎn)生怎樣的影響？

姚欣：我認(rèn)為在未來(lái)兩年內(nèi)，AI應(yīng)用將迎來(lái)爆發(fā)期，類似于2012年移動(dòng)互聯(lián)網(wǎng)出現(xiàn)拐點(diǎn)的情況。目前大模型推理成本已下降超過(guò)十倍，預(yù)計(jì)在未來(lái)兩年內(nèi)仍將持續(xù)下降。當(dāng)推理成本降低到一定閾值時(shí)，將帶來(lái)從量變到質(zhì)變的重大機(jī)會(huì)，就像當(dāng)年P(guān)PTV通過(guò)降低成本推動(dòng)視頻行業(yè)劇增一樣，AI推理應(yīng)用也將在免費(fèi)時(shí)代經(jīng)歷用戶量級(jí)的劇增，從而顯著擴(kuò)大整個(gè)算力市場(chǎng)的規(guī)模。

主持人：成本下降對(duì)于當(dāng)前算力行業(yè)意味著什么？

姚欣：隨著AI應(yīng)用成本的大幅下降，行業(yè)從業(yè)者的盤子將會(huì)擴(kuò)大上千倍甚至上萬(wàn)倍，這是值得大家高興的。在規(guī)劃架構(gòu)和提供服務(wù)時(shí)，應(yīng)重視從訓(xùn)練需求轉(zhuǎn)向推理需求的變化，因?yàn)橥评硇枨蟮脑鲩L(zhǎng)將遠(yuǎn)大于訓(xùn)練需求。

主持人：您為何出售PPTV？

姚欣：出售PPTV是出于追尋內(nèi)心的聲音，盡管PPTV取得了成功并改變了人們的生活，但我始終懷揣著用技術(shù)改變生活的夢(mèng)想，希望能夠開(kāi)創(chuàng)出具有時(shí)代意義、能夠被寫(xiě)進(jìn)計(jì)算機(jī)教科書(shū)的技術(shù)。最終我選擇賣掉并創(chuàng)建了PPIO，成立一家具有底層技術(shù)創(chuàng)新并走向全球的科技公司。

主持人：AI行業(yè)是否存在泡沫？

姚欣：AI行業(yè)確實(shí)存在泡沫現(xiàn)象，每個(gè)行業(yè)在高速發(fā)展初期都會(huì)有早期泡沫階段。目前的AI行業(yè)正處在泡沫破滅的過(guò)程中，例如大模型領(lǐng)域的泡沫正在逐漸破裂，這反而意味著模型之上應(yīng)用生態(tài)開(kāi)始起步。隨著模型發(fā)布速度放緩，開(kāi)發(fā)成本降低，模型的穩(wěn)定性和迭代速度的變化有利于應(yīng)用開(kāi)發(fā)，所以大模型領(lǐng)域的泡沫正在破滅，但模型應(yīng)用層面可能正形成新的泡沫。

主持人：算力共享經(jīng)濟(jì)模式是否可行？

姚欣：算力共享經(jīng)濟(jì)模式已經(jīng)存在且是必然趨勢(shì)。如同airbnb等共享經(jīng)濟(jì)模式整合利用閑置資源，PPIO也在運(yùn)營(yíng)模式中整合匯聚各類算力資源，實(shí)現(xiàn)算力的共享經(jīng)濟(jì)。

主持人：PPIO有哪些合作伙伴？

姚欣：PPIO擁有眾多合作伙伴，包括上游的算力合作伙伴，他們幫助整合和尋找閑置算力資源；以及與擁抱開(kāi)源的大模型企業(yè)緊密合作，通過(guò)開(kāi)源模型進(jìn)行針對(duì)性優(yōu)化，以適應(yīng)不同類型的異構(gòu)算力資源，共同推動(dòng)整個(gè)行業(yè)資源利用率的提升。

主持人：對(duì)于未來(lái)市場(chǎng)發(fā)展有何展望？

姚欣：預(yù)計(jì)2025年將是一個(gè)轉(zhuǎn)折點(diǎn)，推理算力將超越訓(xùn)練算力，推動(dòng)這一變化的動(dòng)力來(lái)自多模態(tài)應(yīng)用需求的增長(zhǎng)，尤其是音頻和視頻化趨勢(shì)的推進(jìn)。同時(shí)，從2023年開(kāi)始，信息相關(guān)行業(yè)將經(jīng)歷十倍降本的連續(xù)過(guò)程，預(yù)計(jì)到2025年，市場(chǎng)將看到日活躍用戶過(guò)千萬(wàn)甚至月活躍用戶達(dá)到億級(jí)別的應(yīng)用誕生和發(fā)展。對(duì)于算力建設(shè)方來(lái)說(shuō)，需要及時(shí)調(diào)整建設(shè)策略以應(yīng)對(duì)可能出現(xiàn)的資源閑置問(wèn)題，抓住機(jī)遇迎接行業(yè)變化。

lixiangjing

算力豹主編