智能化浪潮奔涌澎湃，生成式AI驅(qū)動新一輪數(shù)字化變革，運(yùn)營商加速向智能化轉(zhuǎn)型，建設(shè)高速算力網(wǎng)絡(luò)，深化基礎(chǔ)設(shè)施以支撐新場景、新應(yīng)用成重要目標(biāo)。
2024 MWC上海浩鯨科技“智能基礎(chǔ)設(shè)施”展區(qū)，帶來異構(gòu)智算底座調(diào)度管理、BICN3.0算力網(wǎng)絡(luò)一體化方案，分享在解決智算底座集成與應(yīng)用難題過程中的領(lǐng)先經(jīng)驗(yàn)，打造“跨越異構(gòu)GPU卡集群管理、跨越智算集群一體化調(diào)度、跨越算力主體的一體化支撐”三重能力，加速釋放智算底座價值，推動全國一體化算力網(wǎng)絡(luò)的加速構(gòu)建。
隨著AI等新一代信息技術(shù)快速發(fā)展，智算需求爆發(fā)式增長，在基礎(chǔ)設(shè)施充分發(fā)揮作用的實(shí)踐過程中。我們發(fā)現(xiàn)在云內(nèi)融合、跨云融合、云邊融合三個方面；在GPU卡、智算集群、算力主體三個維度，面臨著多重挑戰(zhàn)。面對這些挑戰(zhàn)，要突破智算底座集成與應(yīng)用的難題，釋放智算底座生產(chǎn)力，浩鯨科技提供異構(gòu)智算調(diào)度管理綜合方案、BICN3.0算力網(wǎng)絡(luò)一體化升級方案，重點(diǎn)實(shí)現(xiàn)三個能力跨越，探索解決思路。
1、跨異構(gòu)GPU的集群管理能力
面對智算需求快速增長、智算資源稀缺、單卡分配和粗粒度資源管理粗曠、集群吞吐量受限等在資源使用上的難題，浩鯨科技提出異構(gòu)集群管理方案具備三大創(chuàng)新能力，以解決當(dāng)前異構(gòu)GPU普遍存在的背景下，降低上層應(yīng)用算力使用門檻，提升資源利用效率。
1) 異構(gòu)GPU統(tǒng)一接入及管理，向應(yīng)用提供標(biāo)準(zhǔn)化調(diào)用接口。目前已支持和對接了國內(nèi)外10+芯片種類；
2) 自研Tower插件，無需購買原廠License，實(shí)現(xiàn)1%細(xì)粒度算力精分與顯存超分；
3) 分時遠(yuǎn)程調(diào)用智算算力，實(shí)現(xiàn)GPU資源的共享化使用。
2、跨異構(gòu)智算集群一體化調(diào)度能力
異構(gòu)算力的多樣化現(xiàn)狀要求跨集群進(jìn)行一體化調(diào)度，但在調(diào)度過程中存在面對不同類型應(yīng)用如何一體化調(diào)度、不同調(diào)度訓(xùn)練作業(yè)如何并行、如何配置最優(yōu)調(diào)度方案以提升資源利用率、解決多模型并行的資源沖突等多重挑戰(zhàn)。為此，浩鯨科技針對異構(gòu)算力調(diào)度方向提出了基于性能感知自適應(yīng)跨集群調(diào)度框架的前沿性探索，重點(diǎn)研究三大關(guān)鍵技術(shù)：
1) 動態(tài)并行策略：按異構(gòu)算力資源現(xiàn)狀，分片策略組合支持流水線、數(shù)據(jù)、向量等多種并行策略的靈活組合；
2) 性能探測技術(shù)：基于現(xiàn)網(wǎng)資源情況，探測不同并行策略下的最優(yōu)計算性能；
3) 動態(tài)分配技術(shù)：動態(tài)感知智算集群的狀態(tài)，實(shí)現(xiàn)算力資源最優(yōu)調(diào)度。
3、跨算力主體的一體化支撐能力
為了解決集群內(nèi)，跨集群問題，浩鯨科技針對BICN算力網(wǎng)絡(luò)一體化支撐方案進(jìn)行3.0全新升級，提供跨越算力主體的一體化支撐及并網(wǎng)能力，具備“1+N架構(gòu)”、“5O調(diào)度能力”、“5M并網(wǎng)模式”升級亮點(diǎn)，并探索出靈活合作模式，促進(jìn)算力服務(wù)生態(tài)運(yùn)營。
1) 1+N架構(gòu)升級：一體化BICN算網(wǎng)支撐能力體系解耦為接入、編排、運(yùn)營、方案4層，面向不同需求方的要求，組合出N解決方案；
2) 5O調(diào)度能力升級：面向異構(gòu)算力、異主體、異區(qū)域、異算色、異平臺5異算力，提供一體化調(diào)度能力；
3) 5M并網(wǎng)模式豐富度升級，提供信息層、業(yè)務(wù)層、運(yùn)營層、編排層、原生4類并網(wǎng)模式支撐，滿足各種并網(wǎng)形態(tài)的支撐；
商業(yè)合作模式升級，面向不同的行業(yè)，不同的客戶需求，提供靈活的商業(yè)合作模式：標(biāo)品模式、集成模式、賦能模式，促進(jìn)一體化算力服務(wù)生態(tài)運(yùn)營。
浩鯨科技智算底座解決方案致力于為客戶快速實(shí)現(xiàn)智算資源的統(tǒng)一納管，提高資源利用吞吐率、提升的使用價值。目前已協(xié)助多個省級運(yùn)營商客戶構(gòu)建智算資源納管能力，實(shí)現(xiàn)異構(gòu)GPU統(tǒng)一納管、集群化管理、算力切片等核心能力，為省內(nèi)大小模型的訓(xùn)練及推理提供算力支撐。同時，浩鯨科技BICN3.0算力網(wǎng)絡(luò)一體化支撐方案協(xié)助福建移動、山東移動、江蘇移動及上海新型互聯(lián)網(wǎng)交換中心等多家運(yùn)營商及企業(yè)，實(shí)現(xiàn)內(nèi)外部算力資源一體化運(yùn)營，積極輸出區(qū)域算力一體化平臺的建設(shè)能力，實(shí)現(xiàn)算力高效互補(bǔ)和協(xié)同聯(lián)動。
未來，浩鯨科技將會持續(xù)加強(qiáng)在智算方向上的關(guān)鍵技術(shù)研究，持續(xù)加強(qiáng)在數(shù)據(jù)加載加速、計算加速及網(wǎng)絡(luò)加速等方向研究，加速智算底座生產(chǎn)力釋放。
（免責(zé)聲明：此文內(nèi)容為廣告，相關(guān)素材由廣告主提供，廣告主對本廣告內(nèi)容的真實(shí)性負(fù)責(zé)。本網(wǎng)發(fā)布目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)和對其真實(shí)性負(fù)責(zé)，請自行核實(shí)相關(guān)內(nèi)容。廣告內(nèi)容僅供讀者參考。）
【免責(zé)聲明】【廣告】本文僅代表作者本人觀點(diǎn)，與和訊網(wǎng)無關(guān)。和訊網(wǎng)站對文中陳述、觀點(diǎn)判斷保持中立，不對所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考，并請自行承擔(dān)全部責(zé)任。郵箱：news_center@staff.hexun.com
最新評論