算力服務(wù)統(tǒng)籌異構(gòu)算力資源，支撐大模型等新應(yīng)用實(shí)踐落地
來(lái)源：中國(guó)信息通信研究院
隨著大模型、元宇宙等算力新應(yīng)用場(chǎng)景的不斷豐富，各行業(yè)對(duì)多樣化異構(gòu)算力，低時(shí)延確定性網(wǎng)絡(luò)，分布式存儲(chǔ)的需求持續(xù)攀升，算力服務(wù)在計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)領(lǐng)域的資源布局、基礎(chǔ)架構(gòu)、關(guān)鍵技術(shù)等方面也在不斷演進(jìn)。
多樣算力繁榮發(fā)展，計(jì)算架構(gòu)升級(jí)、資源一體編排支撐異構(gòu)算力賦能算力新應(yīng)用。大模型等新應(yīng)用的發(fā)展，基于人工智能技術(shù)的訓(xùn)練、推理，支撐虛擬現(xiàn)實(shí)技術(shù)的建模、渲染等技術(shù)研究再度引起產(chǎn)業(yè)關(guān)注，也對(duì)智算、超算、邊緣計(jì)算的需求提上了新的高度。算力服務(wù)在計(jì)算資源性能提升、功能完善的角度不斷探索，形成了良好支撐算力新應(yīng)用創(chuàng)新發(fā)展與落地驗(yàn)證的技術(shù)路線。效率提升上，算力服務(wù)支撐計(jì)算中心從 CPU 向數(shù)據(jù)轉(zhuǎn)變，DPU 釋放 CPU 算力縮短新應(yīng)用驗(yàn)證周期。在 CPU 面臨性能進(jìn)一步提升的瓶頸時(shí)，以數(shù)據(jù)為中心的理念應(yīng)運(yùn)而生。由數(shù)據(jù)處理芯片 DPU 承載網(wǎng)絡(luò)、存儲(chǔ)等管理能力，將 CPU 算力解放出來(lái)，以實(shí)現(xiàn)同等規(guī)格計(jì)算資源的更多算力供給，提升新應(yīng)用運(yùn)行效率，降低驗(yàn)證成本。目前產(chǎn)業(yè)界已有相應(yīng)的落地方案，如云豹智能發(fā)布云霄 DPU，提出可編程通用 DPU 框架理念，并落地多個(gè)應(yīng)用場(chǎng)景;中科馭數(shù)發(fā)布 DPU 芯片 K2，能夠?qū)崿F(xiàn) 1.2 微秒低時(shí)延和最高200G 網(wǎng)絡(luò)帶寬。同時(shí)為進(jìn)一步降低引入 DPU 后的計(jì)算架構(gòu)升級(jí)成本，產(chǎn)業(yè)內(nèi)也開(kāi)始探索通過(guò)統(tǒng)一的 DPU 開(kāi)發(fā)框架屏蔽廠商差異，提供一體化的算力卸載服務(wù)。功能完善上，算力服務(wù)內(nèi)涵范圍從通用計(jì)算向智算、超算延伸，通過(guò)平臺(tái)化建設(shè)加速行業(yè)賦能。2021 年以來(lái)，我國(guó)智算、超算增勢(shì)強(qiáng)勁。據(jù)中國(guó)信通院《中國(guó)算力發(fā)展指數(shù)白皮書(shū)(2022年)》統(tǒng)計(jì)，2021 年智能算力成為我國(guó)算力規(guī)?？焖僭鲩L(zhǎng)的關(guān)鍵驅(qū)動(dòng)力，增速達(dá) 85%，在我國(guó)算力占比重超 50%。超算算力穩(wěn)步提升，算力規(guī)模增速達(dá) 30%，在行業(yè)實(shí)踐方面的貢獻(xiàn)日益凸顯。算力服務(wù)也逐漸擴(kuò)展到智算、超算領(lǐng)域，并通過(guò)構(gòu)建計(jì)算平臺(tái)的方式統(tǒng)一納管不同廠商、不同指令集、不同規(guī)格的計(jì)算資源，實(shí)現(xiàn)智算、超算服務(wù)化統(tǒng)一供給。阿里云 2022 年推出飛天智算平臺(tái)，可運(yùn)行在 X86、GPU、ARM 等多種芯片類型的服務(wù)器上,支持多種處理器混合部署統(tǒng)一調(diào)度，并提供數(shù)據(jù)治理、預(yù)訓(xùn)練模型等能力，AI 訓(xùn)練效率提升 11倍，推理效率提升 6倍，加速 AI 應(yīng)用開(kāi)發(fā)。
算力網(wǎng)絡(luò)打破算力與應(yīng)用邊界，為算力服務(wù)提供端到端的確定性保障。隨著人工智能、物聯(lián)網(wǎng)、數(shù)字孿生等算力應(yīng)用場(chǎng)景的多元化發(fā)展，算力網(wǎng)絡(luò)從中心向邊緣和端側(cè)泛在延伸，成為實(shí)現(xiàn)云、邊、端算力的高效協(xié)同，提升算力服務(wù)水平的關(guān)鍵能力之一。一方面，算力網(wǎng)絡(luò)以先進(jìn)路由技術(shù)為能力底座，激發(fā)泛在的算網(wǎng)資源調(diào)度活力。以SRv6 為例，可編程網(wǎng)絡(luò)技術(shù)將算力信息攜帶進(jìn)入網(wǎng)絡(luò)，通過(guò)網(wǎng)絡(luò)路徑、業(yè)務(wù)、轉(zhuǎn)發(fā)行為三層可編程空間，使報(bào)文隨時(shí)根據(jù)業(yè)務(wù)的調(diào)整進(jìn)行精確匹配，提供靈活的網(wǎng)絡(luò)可編程能力。綜合考慮計(jì)算節(jié)點(diǎn)、網(wǎng)絡(luò)負(fù)載和業(yè)務(wù)需求，更好地實(shí)現(xiàn)算力服務(wù)端到端的連接與協(xié)同調(diào)度。中國(guó)移動(dòng)積極構(gòu)建統(tǒng)一算網(wǎng)IP底座，推動(dòng) SRV6 技術(shù)創(chuàng)新，與中興通訊聯(lián)合研究 G-SRv6 技術(shù)提高數(shù)據(jù)轉(zhuǎn)發(fā)效率，助力算力網(wǎng)絡(luò)平滑演進(jìn)。另一方面，確定性網(wǎng)絡(luò)、無(wú)損網(wǎng)絡(luò)提供算力服務(wù)高質(zhì)量保障。確定性網(wǎng)絡(luò)如 TSN、DetNet、FlexE，能夠根據(jù)業(yè)務(wù)類型與級(jí)別提供差異化的確定性服務(wù)，有效滿足人工智能、工業(yè)互聯(lián)網(wǎng)、智能服務(wù)業(yè)等垂直行業(yè)對(duì)算力網(wǎng)絡(luò)低時(shí)延、可靠性和穩(wěn)定性的需求，成為算力服務(wù)產(chǎn)業(yè)向高質(zhì)量發(fā)展轉(zhuǎn)型升級(jí)的重要保障。目前，確定性算力網(wǎng)絡(luò)率先在山東省內(nèi)展開(kāi)試點(diǎn)，已建成全球第一張確定性網(wǎng)絡(luò)，將核心節(jié)點(diǎn)的時(shí)延抖動(dòng)控制在 0.02ms 以內(nèi)，賦能實(shí)體產(chǎn)業(yè)發(fā)展。
存儲(chǔ)架構(gòu)升級(jí)，分布式存儲(chǔ)為算力服務(wù)注入高效、彈性、泛在新動(dòng)能。新應(yīng)用對(duì)存儲(chǔ)能力同樣提出了挑戰(zhàn)，在數(shù)據(jù)量、計(jì)算量激增的算力服務(wù)應(yīng)用場(chǎng)景下，傳統(tǒng)的集中式存儲(chǔ)難以支撐計(jì)算任務(wù)高速讀寫(xiě)的需求，分布式存儲(chǔ)的出現(xiàn)為算力服務(wù)的發(fā)展帶來(lái)了新的轉(zhuǎn)機(jī)。從性能上看，分布式存儲(chǔ)提供并行讀寫(xiě)解決方案，為算力服務(wù)帶來(lái)成倍性能提升; 從擴(kuò)展性看，分布式存儲(chǔ)通過(guò)更小粒度的存儲(chǔ)資源虛擬化供給方式，良好支撐算力服務(wù)在不同計(jì)算量級(jí)應(yīng)用場(chǎng)景下的存儲(chǔ)需求，避免資源浪費(fèi)，實(shí)現(xiàn)數(shù)據(jù)高效流轉(zhuǎn)，從延伸性看，分布式存儲(chǔ)可支持算力服務(wù)計(jì)算任務(wù)就近接入，從物理路徑上優(yōu)化數(shù)據(jù)傳輸時(shí)延，進(jìn)一步推動(dòng)算力服務(wù)泛在發(fā)展。
相關(guān)推薦