近日,中國電信臨港智算谷1.2期機(jī)樓封頂儀式在臨港新片區(qū)舉行,1.2期機(jī)樓的建起,預(yù)示著智算谷將迎來10萬卡時(shí)代。算力正成為數(shù)字經(jīng)濟(jì)時(shí)代的重要資源,我國算力基礎(chǔ)設(shè)施尤其是智能算力迅猛發(fā)展,為千行百業(yè)數(shù)字化轉(zhuǎn)型注入新動能。
AI主戰(zhàn)場,萬卡已是標(biāo)配
如今,多模態(tài)大模型的推動,讓文本、圖像、音頻和視頻的融合變得更加重要,模型參數(shù)量從千億邁向萬億,模型能力更加泛化,對底層算力的訴求將進(jìn)一步升級。
萬卡集群則成為了破題方法之一。中國工程院院士鄭緯民指出,“構(gòu)建國產(chǎn)AI卡的萬卡大模型訓(xùn)練平臺很難,但也很重要以及必要!
目前,在國際上,OpenAI、Google、Meta等科技巨頭,都爭向部署萬卡集群,用來支撐其在基座大模型、智能算法研發(fā)及生態(tài)服務(wù)等方面的技術(shù)創(chuàng)新。在國內(nèi),通信運(yùn)營商、頭部互聯(lián)網(wǎng)、大型AI研發(fā)企業(yè)等均在萬卡集群中有所建設(shè)。以運(yùn)營商中國電信為例,其目前在上海、北京兩個(gè)萬卡集群已經(jīng)投產(chǎn),其中,中國電信臨港智算谷終期規(guī)劃30萬卡高端智算集群。
云計(jì)算能力體系創(chuàng)新
在AI領(lǐng)域的征途中,智能算力便是那不可或缺的“先行軍糧”。
目前,天翼云在全國范圍內(nèi)構(gòu)建了“2+4+31+X”的資源池,超前構(gòu)建智能算力布局,在北京、上海、湖北、湖南等省市構(gòu)建了智算中心。在北京、上海兩個(gè)萬卡池的建設(shè)過程中,不斷推進(jìn)AIDC技術(shù)創(chuàng)新,采用新一代智算液冷DC艙,大幅提升端到端交付效率,實(shí)現(xiàn)數(shù)據(jù)中心能效和智算集群算效雙提升。
有了算力,就要考慮算力互聯(lián)、跨域調(diào)度管理等,以實(shí)現(xiàn)供需匹配,對此,中國電信通過升級“息壤”一體化智算平臺,實(shí)現(xiàn)算網(wǎng)調(diào)度、異構(gòu)計(jì)算、訓(xùn)推服務(wù)等關(guān)鍵技術(shù)的突破。
此外,在大模型方面,天翼云預(yù)置中國電信自有大模型,引入開源模型和第三方模型,加強(qiáng)模型國產(chǎn)化生態(tài)適配,提供豐富模型庫。在數(shù)據(jù)層面,中國電信積累了豐富的多模態(tài)高質(zhì)量數(shù)據(jù)集;全面升級數(shù)據(jù)綜合管理平臺,依托數(shù)據(jù)編織技術(shù),實(shí)現(xiàn)多模態(tài)、跨源、跨域數(shù)據(jù)的統(tǒng)一整合和集中治理。在應(yīng)用層面,天翼云匯聚第三方應(yīng)用,形成以多模態(tài)AI應(yīng)用為核心的場景化AI應(yīng)用生態(tài)。
合作創(chuàng)新,促智算發(fā)展
隨著人工智能技術(shù)的日益成熟與普及,算力規(guī)模正穩(wěn)步攀升。截至2023年底,提供算力服務(wù)的在用機(jī)架數(shù)達(dá)810萬標(biāo)準(zhǔn)機(jī)架,算力總規(guī)模超過230EFLOPS,其中智能算力規(guī)模達(dá)到70EFLOPS,新增算力基礎(chǔ)設(shè)施中智能算力占比過半,成為算力增長的新引擎。在當(dāng)前階段,智能算力也面臨多個(gè)問題,這對運(yùn)營商提出了新的挑戰(zhàn)。
算力創(chuàng)新方面,我國算力核心技術(shù)的創(chuàng)新仍存在明顯差距,在高端芯片和軟件研發(fā)方面,關(guān)鍵技術(shù)仍面臨 “卡脖子” 風(fēng)險(xiǎn),難以支撐大模型、元宇宙等高性能場景建設(shè)。隨著算力向生產(chǎn)生活各個(gè)領(lǐng)域的滲透逐漸深入,算網(wǎng)融合持續(xù)推進(jìn),算力作為轉(zhuǎn)換數(shù)據(jù)價(jià)值的生產(chǎn)要素,安全保障至關(guān)重要。
因此需要運(yùn)營商深化行業(yè)合作,加強(qiáng)跨行業(yè)、跨領(lǐng)域的合作與交流,共同推動智能算力技術(shù)的研發(fā)和應(yīng)用。此前,天翼云攜手合作伙伴舉行了“開源大模型社區(qū)發(fā)布暨生態(tài)繁榮計(jì)劃啟動”儀式,共鑄大模型應(yīng)用繁榮生態(tài)。