資訊
`
2025/7/24 11:27
中國(guó)聯(lián)通聯(lián)合華為完成業(yè)界首例基于模型分割學(xué)習(xí)的分布式訓(xùn)推試點(diǎn) 實(shí)現(xiàn)用戶隱私數(shù)據(jù)零泄露
0
0

2025年7月19日,中國(guó)聯(lián)通在合作伙伴大會(huì)期間舉辦CUBE-Net 3.0新突破--下一代互聯(lián)網(wǎng)系列成果發(fā)布會(huì)。中國(guó)聯(lián)通集團(tuán)建設(shè)發(fā)展部副總經(jīng)理呂洪濤、中國(guó)聯(lián)通研究院副院長(zhǎng)唐雄燕、上海聯(lián)通副總經(jīng)理歐大春、華為數(shù)據(jù)通信產(chǎn)品線路由器領(lǐng)域總裁蔡駿等共同發(fā)布業(yè)界首個(gè)隱私數(shù)據(jù)零泄露的分布式訓(xùn)推試點(diǎn)成果,這標(biāo)志著中國(guó)聯(lián)通與華為在智算廣域網(wǎng)解決方案技術(shù)研究領(lǐng)域的合作邁入新階段。

圖片 1.png

當(dāng)前,DeepSeek正加速推進(jìn)AI普惠化,各行各業(yè)紛紛布局AI推理應(yīng)用,助力企業(yè)數(shù)智化轉(zhuǎn)型向縱深發(fā)展。然而,對(duì)于大多企業(yè)用戶來(lái)說(shuō),自建AI算力受限于成本、機(jī)房場(chǎng)地及供電等因素,而租用云端算力,數(shù)據(jù)離開(kāi)企業(yè)園區(qū)又有泄露的安全風(fēng)險(xiǎn)。因此如何保障靈活便捷的算力供應(yīng),同時(shí)又滿足企業(yè)客戶對(duì)數(shù)據(jù)安全的訴求,成為智算服務(wù)快速惠及千行萬(wàn)業(yè)的關(guān)鍵問(wèn)題。

中國(guó)聯(lián)通面向隱私數(shù)據(jù)保護(hù)與數(shù)據(jù)安全需求,與華為合作,成功在上海金橋與臨港數(shù)據(jù)中心間完成了業(yè)界首例基于模型分割學(xué)習(xí)的分布式邊云協(xié)同訓(xùn)推技術(shù)方案驗(yàn)證,通過(guò)部署AINet智算網(wǎng)關(guān),以輕量化網(wǎng)絡(luò)升級(jí)實(shí)現(xiàn)分割學(xué)習(xí)、邊云協(xié)同和無(wú)損網(wǎng)絡(luò)融合創(chuàng)新,解決隱私數(shù)據(jù)敏感型用戶在使用AI訓(xùn)推服務(wù)中的痛點(diǎn)問(wèn)題,提供更加安全可靠的人工智能服務(wù)。

在邊云協(xié)同訓(xùn)練場(chǎng)景下,在企業(yè)側(cè)部署輕量級(jí)算卡資源,通過(guò)PP并行模式與云側(cè)智算中心算力進(jìn)行協(xié)同訓(xùn)練,樣本和模型首尾層部署在企業(yè)本地,保障樣本數(shù)據(jù)不出園區(qū);按需租賃運(yùn)營(yíng)商智算中心算力資源,僅部署模型中間層,接收/發(fā)送激活值、梯度值。云邊算力之間通過(guò)智算IP廣域網(wǎng)連接,高效、無(wú)損傳輸激活值、梯度值數(shù)據(jù)。當(dāng)前基于Llama 2模型實(shí)測(cè),與云上集中訓(xùn)練相比,算效損失小于3%

在邊云協(xié)同推理場(chǎng)景下,在企業(yè)側(cè)部署輕量級(jí)算卡資源,通過(guò)模型分割學(xué)習(xí)與云側(cè)智算中心算力進(jìn)行協(xié)同推理,Embedding&Unembedding層及模型首尾層部署在企業(yè)園區(qū)本地,保障Prompt不出園區(qū);按需租賃運(yùn)營(yíng)商智算中心算力資源,僅部署模型中間層,接收/發(fā)送隱變量。云邊算力之間通過(guò)智算IP廣域網(wǎng)連接,高效傳輸隱變量數(shù)據(jù)。當(dāng)前基于DeepSeek模型實(shí)測(cè),邊云協(xié)同推理吞吐達(dá)到集中推理吞吐95%以上。

圖片 2.png

中國(guó)聯(lián)通研究院副院長(zhǎng)、首席科學(xué)家唐雄燕介紹,以網(wǎng)強(qiáng)算,以算賦智,通過(guò)網(wǎng)絡(luò)技術(shù)創(chuàng)新實(shí)現(xiàn)AI服務(wù)的普惠化是網(wǎng)絡(luò)升級(jí)演進(jìn)的重要方向。分布式邊云協(xié)同訓(xùn)推方案解決了AI訓(xùn)推服務(wù)過(guò)程中的用戶隱私數(shù)據(jù)安全的痛點(diǎn)問(wèn)題,滿足了智算業(yè)務(wù)面向云化發(fā)展的需求,不僅可以實(shí)現(xiàn)算網(wǎng)資源靈活協(xié)同,也實(shí)現(xiàn)了隱私訓(xùn)推數(shù)據(jù)“0”泄露。

未來(lái),中國(guó)聯(lián)通攜手華為持續(xù)推進(jìn)算網(wǎng)一體服務(wù)創(chuàng)新,不斷豐富和完善分布式邊云協(xié)同訓(xùn)推方案的核心內(nèi)涵。通過(guò)提供高品質(zhì)的算網(wǎng)一體化服務(wù),加速企業(yè)AI應(yīng)用規(guī);占,促進(jìn)產(chǎn)業(yè)升級(jí)與效率提升,驅(qū)動(dòng)企業(yè)數(shù)智化轉(zhuǎn)型,為社會(huì)經(jīng)濟(jì)的高質(zhì)量發(fā)展持續(xù)貢獻(xiàn)力量。

免責(zé)聲明:本文僅代表作者個(gè)人觀點(diǎn),與C114通信網(wǎng)無(wú)關(guān)。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實(shí),對(duì)本文以及其中全部或者部分內(nèi)容、文字的真實(shí)性、完整性、及時(shí)性本站不作任何保證或承諾,請(qǐng)讀者僅作參考,并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。

給作者點(diǎn)贊
0 VS 0
寫得不太好
為您推薦

C114簡(jiǎn)介     聯(lián)系我們     網(wǎng)站地圖

Copyright©1999-2025 c114 All Rights Reserved 滬ICP備12002291號(hào)-4

C114通信網(wǎng)版權(quán)所有 舉報(bào)電話:021-54451141 用戶注銷