C114訊 9月12日消息(水易)第25屆中國國際光電博覽會在深圳開幕,同期舉辦的“算力時代新型光傳送技術(shù)論壇”期間,中國電信研究院副院長李俊杰表示,智算時代,算力需求從線性增長變?yōu)橹笖?shù)級增長,未來集群向十萬卡級甚至百萬卡級演進以支撐模型參數(shù)擴展。
AI大模型訓(xùn)練等工作需要在大量的計算單位中傳遞海量數(shù)據(jù),打造大帶寬、低時延、高可靠的高品質(zhì)智算互聯(lián)光網(wǎng)絡(luò)基礎(chǔ)設(shè)施成為關(guān)鍵。在李俊杰看來,智算時代,光通信技術(shù)迎來一系列新技術(shù)需求和新應(yīng)用機會。
智算中心內(nèi):要重視光模塊可靠性
目前數(shù)據(jù)中心內(nèi)部,Spine-Leaf架構(gòu)成為主流,大幅提升了數(shù)據(jù)互連的效率。不過,隨著AI需求的持續(xù)增長,需要對架構(gòu)持續(xù)創(chuàng)新,F(xiàn)ull-mesh Spine-leaf架構(gòu)的出現(xiàn)對光模塊的需求顯著增加。
當(dāng)前,數(shù)據(jù)中心內(nèi)800G光模塊逐漸成為主流,1.6T光模塊應(yīng)用需求開始萌芽,3.2T光模塊技術(shù)開始研究。核心電口方面,單通道100G serdes速率技術(shù)成熟,單通道200G預(yù)計2025年啟動應(yīng)用。標(biāo)準層面,800G光模塊標(biāo)準基本完成,1.6T光模塊標(biāo)準處于研究階段。
與此同時,隨著光模塊速率持續(xù)升級,在功耗控制、單比特傳輸成本優(yōu)化、傳輸時延等方面對光模塊提出了更高的要求,發(fā)展低成本、低功耗和低時延的高速光模塊勢在必行。李俊杰表示,800G/1.6T會有更多LPO/LRO的創(chuàng)新,到了3.2T以上會走向CPO。
另外,大模型訓(xùn)練的高可靠要求傳遞到了光模塊,智算中心光模塊可靠性要求或許超過電信級。李俊杰指出:“只要可用率提升很多,訓(xùn)練帶來的收益會更大。”據(jù)了解,IPEC立項電信級光模塊可靠性要求標(biāo)準項目,促進電信級光模塊的質(zhì)量提升和市場發(fā)展。
想要進一步降低設(shè)備的處理和轉(zhuǎn)發(fā)時延,OCS憑借全光交換優(yōu)勢,可為智算中心內(nèi)部互聯(lián)提供一種新型組網(wǎng)方案。據(jù)介紹,目前互聯(lián)網(wǎng)公司對OCS的探索和實踐更為靠前,主要有壓電陶瓷方案、MEMS方案等等,不同技術(shù)方案的可靠性、切換時間、端口數(shù)量、成本、功耗等性能需進一步驗證。
智算中心間:分布式集群成為熱點
超大規(guī)模GPU集群成為大模型訓(xùn)練的必要條件,需求指數(shù)級增長對AI基礎(chǔ)設(shè)施帶來極大挑戰(zhàn),特別是電力供應(yīng)/機房空間成為單體大規(guī)模智算建設(shè)的瓶頸。對此,業(yè)界正在探索多數(shù)據(jù)中心互聯(lián)提供分布式訓(xùn)練環(huán)境。
目前,骨干網(wǎng)已經(jīng)入400G C+L時代,800G可覆蓋城域應(yīng)用場景,1.2T可覆蓋數(shù)據(jù)中心光互聯(lián)場景。與此同時,受智算業(yè)務(wù)大帶寬的需求,S波段或成為下一代波段擴展的方向。然而,光放大器、多波段下的功率管理,以及系統(tǒng)級性能優(yōu)化仍然是挑戰(zhàn)。
“我們做所有的事情都是需要商業(yè)閉環(huán),一定是真需求、真方案,而且是性價比可靠的方案!崩羁〗軓娬{(diào),技術(shù)最終要為業(yè)務(wù)服務(wù),比如說多波段,技術(shù)人員肯定會覺得這么長的頻譜非常完美,也可以實現(xiàn),不過是否能夠商業(yè)閉環(huán),需要認真考慮。
中國電信積極探索800G以及擴展波段傳輸,800G實現(xiàn)省際熱點區(qū)域的高速傳輸;1.2T可以支持DCI大容量互聯(lián);S+C+L能夠進一步提高單纖可支持的最大傳輸容量。
除了骨干網(wǎng)技術(shù)的升級,空芯光纖等新型傳輸介質(zhì),未來在更長距離智算拉遠場景,可進一步優(yōu)化傳輸鏈路時延。中國電信聯(lián)合產(chǎn)業(yè)界伙伴完成數(shù)據(jù)中心間10km空芯光纜的管道鋪設(shè)與戶外熔接等,驗證了其部署的可行性。李俊杰介紹,空芯光纖還需要解決光纖拉絲長度距離短、對應(yīng)力敏感、熔接回損大、運維難度大等挑戰(zhàn),才能加速商用進程。
據(jù)了解,中國電信完成了業(yè)界首例現(xiàn)網(wǎng)140公里、異地三機房分布式訓(xùn)練驗證,實驗表明,百億參數(shù)模型在百公里內(nèi)的64卡級(6.4T帶寬)分布式訓(xùn)練性能達到集中式訓(xùn)練性能的95%以上。
對于多點智算集群大規(guī)模組網(wǎng)后續(xù)優(yōu)化思路,李俊杰表示可以通過增加網(wǎng)絡(luò)互連帶寬和提高系統(tǒng)可靠性來探索最佳解決方案,實現(xiàn)無損智算傳輸網(wǎng)絡(luò)。此外,能否廣泛部署需要解決IP與光協(xié)同管控問題,計算技術(shù)和網(wǎng)絡(luò)技術(shù)的協(xié)同是提高分布式智算集群效率的關(guān)鍵。