C114通信網(wǎng)  |  通信人家園

資訊
2024/9/12 09:35

中國電信李俊杰:踐行“云網(wǎng)融合”理念,創(chuàng)新分布式智算規(guī)模組網(wǎng)

C114通信網(wǎng)  水易

C114訊 9月12日消息(水易)第25屆中國國際光電博覽會(huì)在深圳開幕,同期舉辦的“算力時(shí)代新型光傳送技術(shù)論壇”期間,中國電信研究院副院長李俊杰表示,智算時(shí)代,算力需求從線性增長變?yōu)橹笖?shù)級(jí)增長,未來集群向十萬卡級(jí)甚至百萬卡級(jí)演進(jìn)以支撐模型參數(shù)擴(kuò)展。

AI大模型訓(xùn)練等工作需要在大量的計(jì)算單位中傳遞海量數(shù)據(jù),打造大帶寬、低時(shí)延、高可靠的高品質(zhì)智算互聯(lián)光網(wǎng)絡(luò)基礎(chǔ)設(shè)施成為關(guān)鍵。在李俊杰看來,智算時(shí)代,光通信技術(shù)迎來一系列新技術(shù)需求和新應(yīng)用機(jī)會(huì)。

智算中心內(nèi):要重視光模塊可靠性

目前數(shù)據(jù)中心內(nèi)部,Spine-Leaf架構(gòu)成為主流,大幅提升了數(shù)據(jù)互連的效率。不過,隨著AI需求的持續(xù)增長,需要對(duì)架構(gòu)持續(xù)創(chuàng)新,F(xiàn)ull-mesh Spine-leaf架構(gòu)的出現(xiàn)對(duì)光模塊的需求顯著增加。

當(dāng)前,數(shù)據(jù)中心內(nèi)800G光模塊逐漸成為主流,1.6T光模塊應(yīng)用需求開始萌芽,3.2T光模塊技術(shù)開始研究。核心電口方面,單通道100G serdes速率技術(shù)成熟,單通道200G預(yù)計(jì)2025年啟動(dòng)應(yīng)用。標(biāo)準(zhǔn)層面,800G光模塊標(biāo)準(zhǔn)基本完成,1.6T光模塊標(biāo)準(zhǔn)處于研究階段。

與此同時(shí),隨著光模塊速率持續(xù)升級(jí),在功耗控制、單比特傳輸成本優(yōu)化、傳輸時(shí)延等方面對(duì)光模塊提出了更高的要求,發(fā)展低成本、低功耗和低時(shí)延的高速光模塊勢(shì)在必行。李俊杰表示,800G/1.6T會(huì)有更多LPO/LRO的創(chuàng)新,到了3.2T以上會(huì)走向CPO。

另外,大模型訓(xùn)練的高可靠要求傳遞到了光模塊,智算中心光模塊可靠性要求或許超過電信級(jí)。李俊杰指出:“只要可用率提升很多,訓(xùn)練帶來的收益會(huì)更大!睋(jù)了解,IPEC立項(xiàng)電信級(jí)光模塊可靠性要求標(biāo)準(zhǔn)項(xiàng)目,促進(jìn)電信級(jí)光模塊的質(zhì)量提升和市場發(fā)展。

想要進(jìn)一步降低設(shè)備的處理和轉(zhuǎn)發(fā)時(shí)延,OCS憑借全光交換優(yōu)勢(shì),可為智算中心內(nèi)部互聯(lián)提供一種新型組網(wǎng)方案。據(jù)介紹,目前互聯(lián)網(wǎng)公司對(duì)OCS的探索和實(shí)踐更為靠前,主要有壓電陶瓷方案、MEMS方案等等,不同技術(shù)方案的可靠性、切換時(shí)間、端口數(shù)量、成本、功耗等性能需進(jìn)一步驗(yàn)證。

智算中心間分布式集群成為熱點(diǎn)

超大規(guī)模GPU集群成為大模型訓(xùn)練的必要條件,需求指數(shù)級(jí)增長對(duì)AI基礎(chǔ)設(shè)施帶來極大挑戰(zhàn),特別是電力供應(yīng)/機(jī)房空間成為單體大規(guī)模智算建設(shè)的瓶頸。對(duì)此,業(yè)界正在探索多數(shù)據(jù)中心互聯(lián)提供分布式訓(xùn)練環(huán)境。

目前,骨干網(wǎng)已經(jīng)入400G C+L時(shí)代,800G可覆蓋城域應(yīng)用場景,1.2T可覆蓋數(shù)據(jù)中心光互聯(lián)場景。與此同時(shí),受智算業(yè)務(wù)大帶寬的需求,S波段或成為下一代波段擴(kuò)展的方向。然而,光放大器、多波段下的功率管理,以及系統(tǒng)級(jí)性能優(yōu)化仍然是挑戰(zhàn)。

“我們做所有的事情都是需要商業(yè)閉環(huán),一定是真需求、真方案,而且是性價(jià)比可靠的方案。”李俊杰強(qiáng)調(diào),技術(shù)最終要為業(yè)務(wù)服務(wù),比如說多波段,技術(shù)人員肯定會(huì)覺得這么長的頻譜非常完美,也可以實(shí)現(xiàn),不過是否能夠商業(yè)閉環(huán),需要認(rèn)真考慮。

中國電信積極探索800G以及擴(kuò)展波段傳輸,800G實(shí)現(xiàn)省際熱點(diǎn)區(qū)域的高速傳輸;1.2T可以支持DCI大容量互聯(lián);S+C+L能夠進(jìn)一步提高單纖可支持的最大傳輸容量。

除了骨干網(wǎng)技術(shù)的升級(jí),空芯光纖等新型傳輸介質(zhì),未來在更長距離智算拉遠(yuǎn)場景,可進(jìn)一步優(yōu)化傳輸鏈路時(shí)延。中國電信聯(lián)合產(chǎn)業(yè)界伙伴完成數(shù)據(jù)中心間10km空芯光纜的管道鋪設(shè)與戶外熔接等,驗(yàn)證了其部署的可行性。李俊杰介紹,空芯光纖還需要解決光纖拉絲長度距離短、對(duì)應(yīng)力敏感、熔接回?fù)p大、運(yùn)維難度大等挑戰(zhàn),才能加速商用進(jìn)程。

據(jù)了解,中國電信完成了業(yè)界首例現(xiàn)網(wǎng)140公里、異地三機(jī)房分布式訓(xùn)練驗(yàn)證,實(shí)驗(yàn)表明,百億參數(shù)模型在百公里內(nèi)的64卡級(jí)(6.4T帶寬)分布式訓(xùn)練性能達(dá)到集中式訓(xùn)練性能的95%以上。

對(duì)于多點(diǎn)智算集群大規(guī)模組網(wǎng)后續(xù)優(yōu)化思路,李俊杰表示可以通過增加網(wǎng)絡(luò)互連帶寬和提高系統(tǒng)可靠性來探索最佳解決方案,實(shí)現(xiàn)無損智算傳輸網(wǎng)絡(luò)。此外,能否廣泛部署需要解決IP與光協(xié)同管控問題,計(jì)算技術(shù)和網(wǎng)絡(luò)技術(shù)的協(xié)同是提高分布式智算集群效率的關(guān)鍵。

給作者點(diǎn)贊
0 VS 0
寫得不太好

版權(quán)說明:C114刊載的內(nèi)容,凡注明來源為“C114通信網(wǎng)”或“C114原創(chuàng)”皆屬C114版權(quán)所有,未經(jīng)允許禁止轉(zhuǎn)載、摘編,違者必究。對(duì)于經(jīng)過授權(quán)可以轉(zhuǎn)載我方內(nèi)容的單位,也必須保持轉(zhuǎn)載文章、圖像、音視頻的完整性,并完整標(biāo)注作者信息和本站來源。編譯類文章僅出于傳遞更多信息之目的,不代表證實(shí)其描述或贊同其觀點(diǎn);翻譯質(zhì)量問題請(qǐng)指正

熱門文章
    最新視頻
    為您推薦

      C114簡介 | 聯(lián)系我們 | 網(wǎng)站地圖 | 手機(jī)版

      Copyright©1999-2024 c114 All Rights Reserved | 滬ICP備12002291號(hào)

      C114 通信網(wǎng) 版權(quán)所有 舉報(bào)電話:021-54451141