在由上海電信主辦的“云網(wǎng)啟智,暢想未來”的分論壇上,華為數(shù)據(jù)通信產(chǎn)品線城域路由器首席架構(gòu)師任廣濤分享了題為“面向AI WAN的智算IP廣域網(wǎng)助力企業(yè)高效用算”的演講。任廣濤指出,隨著AI技術(shù)的普及和深入應(yīng)用,數(shù)據(jù)和算力需求急劇增長,傳統(tǒng)網(wǎng)絡(luò)無法滿足智算業(yè)務(wù)的需求。華為推出星河AI智算IP廣域網(wǎng)解決方案,具備“極速”運(yùn)力和“極高”安全的智算業(yè)務(wù)承載能力,支撐智算互聯(lián)、用戶一跳入算、數(shù)據(jù)高效流通等訓(xùn)練和推理等新業(yè)務(wù)場景,實現(xiàn)“算網(wǎng)邊端”的高效協(xié)同,滿足千行百業(yè)高效用算需求。
華為數(shù)據(jù)通信產(chǎn)品線城域路由器首席架構(gòu)師任廣濤發(fā)表演講
Deepseek的出現(xiàn)進(jìn)一步催生模型微調(diào)需求,為了滿足訓(xùn)推業(yè)務(wù)帶來的算力增長要求,企業(yè)通過自建加租用的方式,兼顧算力規(guī)模靈活擴(kuò)展和減少企業(yè)成本投資。同時企業(yè)要求廣域網(wǎng)絡(luò)提供安全、可靠的傳輸方案滿足存算拉遠(yuǎn)、分布式模型微調(diào)帶來的隱私計算訴求。數(shù)據(jù)是人工智能的核心要素,樣本傳輸、模型同步等業(yè)務(wù)場景催生大批數(shù)據(jù)傳輸,傳統(tǒng)線下硬盤搬運(yùn)模式效率低,風(fēng)險高;廣域網(wǎng)絡(luò)需要提供彈性、高吞吐網(wǎng)絡(luò)能力滿足企業(yè)模型敏捷部署以及海量樣本上傳的需求。在跨DC協(xié)同訓(xùn)練場景中,算力卡之間的通訊距離擴(kuò)展到幾百甚至上千公里,數(shù)據(jù)丟包會直接帶來訓(xùn)練效率的大幅下降,廣域網(wǎng)絡(luò)需要具備高可靠的傳輸方案。
任廣濤指出,華為推出的面向AI WAN的智算IP廣域網(wǎng)解決方案具備高運(yùn)力、泛在靈活接入、長距無損和任務(wù)式服務(wù)的IP網(wǎng)絡(luò)能力。通過部署華為星河AI路由器,可以為各行業(yè)提供高效、安全、無損的數(shù)據(jù)傳輸環(huán)境,為行業(yè)數(shù)智化轉(zhuǎn)型提供網(wǎng)絡(luò)支撐。在存算拉遠(yuǎn)場景中,數(shù)據(jù)安全是關(guān)鍵,通過部署星河路由器,解決RDMA流量在廣域負(fù)載分擔(dān)和無損傳輸?shù)奶魬?zhàn),算效達(dá)到97%以上,達(dá)成數(shù)據(jù)不落盤目標(biāo);在分布式推理場景中,星河AI路由器通過提升網(wǎng)絡(luò)吞吐率并保證智算業(yè)務(wù)的傳輸可靠性,確保推理體驗不下降,達(dá)成推理數(shù)據(jù)不出域目標(biāo);在協(xié)同訓(xùn)練場景中,RDMA流量從DC內(nèi)走向廣域,面臨廣域時延和丟包的挑戰(zhàn),通過部署星河AI路由器,智算流量在傳輸過程中全程可視可管,保障流量在智算網(wǎng)絡(luò)中高效傳輸和安全性,實現(xiàn)千公里0丟包和不同DC跨廣域網(wǎng)的全局協(xié)同調(diào)度。面向AI WAN的智算IP廣域網(wǎng)方案已經(jīng)在上海電信城域智算POD完成了現(xiàn)網(wǎng)驗證,該方案有效將網(wǎng)絡(luò)整體運(yùn)力提升7倍,并保障拉遠(yuǎn)訓(xùn)推算效不下降。
最后任廣濤表示,華為將持續(xù)完善面向AI WAN的智算IP廣域網(wǎng)方案內(nèi)涵,加速算力資源在運(yùn)營商和企業(yè)側(cè)高效流轉(zhuǎn),并和運(yùn)營商一起為行業(yè)數(shù)智化轉(zhuǎn)型提供網(wǎng)絡(luò)支撐,推動AI技術(shù)的普惠化進(jìn)程。