楊超斌：數(shù)據(jù)中心效率提升95% Meta Llama 3頻繁故障凸顯差距

RefreshRetryDiagnosis

code：

vid:

uuid:

requestId:

Time：

提示信息

00:00 / 00:00

OKCancel

華為中國合作伙伴大會2025于3月20日在深圳開幕。3月21日上午主論壇上，華為董事、ICT BG CEO楊超斌指出，數(shù)據(jù)中心網(wǎng)絡(luò)因負(fù)載不平衡和擁塞，集群效率通常會降低20%以上。他還提到，美國Meta在訓(xùn)練Llama 3模型時，54天內(nèi)發(fā)生了419次故障，平均每3小時一次，其中80%的故障由硬件問題引起，尤其是處理器互聯(lián)問題。針對這些問題，華為推出了NSLB（網(wǎng)絡(luò)負(fù)載平衡）方案，通過智能化調(diào)度，將網(wǎng)絡(luò)負(fù)載效率提升至95%以上，訓(xùn)練效率提升10%�？拼笥嶏w應(yīng)用該技術(shù)后，大模型訓(xùn)練時間從34天縮短至25天。此外，華為還設(shè)計了高可靠性光模塊，用于數(shù)據(jù)中心場景，可靠性提升10倍以上。楊超斌還提到，中國移動去年的集群可靠性遠(yuǎn)高于Meta Llama 3模型的訓(xùn)練集群，后者平均每3小時故障一次，而中國移動的集群二十幾天未出現(xiàn)故障。