近日，由中國通信企業(yè)協(xié)會主辦的2024中國信息通信業(yè)發(fā)展高層論壇在北京召開。本屆大會圍繞“創(chuàng)新數(shù)據(jù)新要素 發(fā)展新質(zhì)生產(chǎn)力”進(jìn)行交流研討、實踐分享。
當(dāng)前，人工智能已經(jīng)成為數(shù)字經(jīng)濟發(fā)展的新引擎。全面提升智能算力供給水平，將有效推動人工智能應(yīng)用商業(yè)落地。天翼云科技有限公司行業(yè)解決方案總監(jiān)祁超在會上發(fā)表《云智一體 國云助力數(shù)字經(jīng)濟高質(zhì)量發(fā)展》演講，闡述了天翼云秉持國云使命，積極布局智算產(chǎn)業(yè)，以豐富的智算資源、強大的智算服務(wù)能力和開放的模型應(yīng)用生態(tài)，賦能數(shù)字經(jīng)濟發(fā)展的創(chuàng)新舉措及實踐成就。
祁超表示，天翼云自建了豐富、多元化的智能算力資源。圍繞AI產(chǎn)業(yè)集聚區(qū)，天翼云規(guī)劃建設(shè)北京、上海、廣東、浙江、安徽人工智能公共算力中心；建設(shè)內(nèi)蒙、貴州、寧夏智算中心，提供綠色算力；先后建成上海、北京萬卡池，這也是全國最早建成并真正投產(chǎn)運行的兩個國產(chǎn)化、全液冷、單集群萬卡公共智算中心。此外，天翼云通用算力實現(xiàn)層次化布局，一城一池覆蓋超280個城市，邊緣節(jié)點超1000個。
天翼云作為國家云已經(jīng)越過了智能云發(fā)展的拐點。面向人工智能時代，天翼云積極構(gòu)建領(lǐng)先的智算云能力體系，打造“息壤”一體化智算平臺，突破了多項算力互聯(lián)調(diào)度關(guān)鍵技術(shù)，擁有強大的算網(wǎng)調(diào)度能力、高效的異構(gòu)計算能力、一站式的訓(xùn)推服務(wù)能力，并積累了豐富的落地應(yīng)用案例。
強大的算網(wǎng)調(diào)度能力 高效調(diào)度實現(xiàn)供需匹配
“息壤”突破了多項關(guān)鍵技術(shù)，可實現(xiàn)跨域跨服務(wù)商異構(gòu)算力一體化供給。通過算力插件和算力網(wǎng)關(guān)，實現(xiàn)了算力的統(tǒng)一、高效和云化接入；通過算數(shù)協(xié)同和多級算力互聯(lián)調(diào)度，實現(xiàn)了算數(shù)網(wǎng)的一體化調(diào)度，數(shù)隨算走，算隨數(shù)動，調(diào)度區(qū)域更廣，算力更泛在；借助大模型認(rèn)知能力和業(yè)務(wù)調(diào)度，實現(xiàn)算力選擇和應(yīng)用部署簡單化，故障自動恢復(fù)與負(fù)載均衡，使算力簡便易用。
基于上述技術(shù)突破，“息壤”可賦能三大應(yīng)用場景：一是天翼云自營的公共算力服務(wù)，目前已接入多家算力生態(tài)合作伙伴，滿足公有云客戶的多元算力需求；二是行業(yè)算力互聯(lián)網(wǎng)，如國資央企智算云管理調(diào)度平臺，接入多家央企算力，提升算力利用率；三是城市算力互聯(lián)網(wǎng)，通過整合區(qū)域內(nèi)多方算力，實現(xiàn)算力一網(wǎng)化、統(tǒng)籌一體化、調(diào)度一站式。
高效的異構(gòu)計算能力 為大模型提供高性能計算平臺
依托“息壤”高效的異構(gòu)計算能力，可破解大模型訓(xùn)練推理過程中面臨的大算力、高性能、高穩(wěn)定等諸多挑戰(zhàn)。通過并行文件存儲、低延時超大規(guī)模RDMA網(wǎng)絡(luò)等措施，有效提升綜合算效，滿足大算力需求；通過AI框架升級、存儲加速，實現(xiàn)checkpoint文件快速保存、加載，將國產(chǎn)算力的綜合算效提升到了行業(yè)可比水平，滿足高性能算力需求；通過多項指標(biāo)的監(jiān)控分析，實現(xiàn)故障訓(xùn)前發(fā)現(xiàn)，有效控制大模型訓(xùn)練中斷恢復(fù)時長，實現(xiàn)訓(xùn)練任務(wù)長期穩(wěn)定、高可用運行�；趪a(chǎn)萬卡智算集群和自研智算平臺，天翼云已具備支撐萬億參數(shù)基礎(chǔ)大模型訓(xùn)練的能力。
一站式的訓(xùn)推服務(wù)能力 降低大模型應(yīng)用創(chuàng)新開發(fā)門檻
面向行業(yè)大模型訓(xùn)推場景，“息壤”一站式訓(xùn)推服務(wù)能力可有效解決訓(xùn)練部署工程復(fù)雜、訓(xùn)推效率低、訓(xùn)練中斷頻繁等問題，降低大模型應(yīng)用創(chuàng)新開發(fā)門檻。具體而言，“息壤”將大模型精調(diào)場景簡化操作至選數(shù)據(jù)、選硬件和選模型三個步驟，顯著提升部署效率；通過自研AI框架、3D并行加速、自研訓(xùn)練加速庫、容器調(diào)度優(yōu)化等核心技術(shù)，大幅提升訓(xùn)練效率；通過模型量化壓縮、自研推理加速算子庫、自研AI推理加速框架等核心技術(shù)，提高推理效率；通過全鏈路故障檢測、定位、告警，全鏈路日志監(jiān)控與可視化、斷點續(xù)訓(xùn)快速恢復(fù)等核心技術(shù)，實現(xiàn)訓(xùn)推過程全鏈路監(jiān)控。當(dāng)前，“息壤”已在多地智算中心、人工智能實驗室等項目中應(yīng)用實踐。
共建開放模型應(yīng)用生態(tài) 共筑AI產(chǎn)業(yè)繁榮
構(gòu)建開放的產(chǎn)業(yè)生態(tài)，是加快推動人工智能和實體經(jīng)濟深度融合的重要路徑。面對中文AI資源治理匱乏、技術(shù)門檻制約AI+應(yīng)用落地等核心挑戰(zhàn)，天翼云魔樂（Modelers）開發(fā)者社區(qū)，聚合中文優(yōu)質(zhì)AI資源，孵化國產(chǎn)原生模型，加速伙伴商業(yè)閉環(huán)，促進(jìn)AI使能千行百業(yè)。魔樂（Modelers）開發(fā)者社區(qū)集成了模型庫、數(shù)據(jù)集和體驗空間等核心組件，覆蓋自然語言處理、視覺、音頻等領(lǐng)域，提供原生模型、易用開發(fā)工具、豐富的生態(tài)資源，助力開發(fā)者高效進(jìn)行AI應(yīng)用創(chuàng)新，促進(jìn)國產(chǎn)AI生態(tài)繁榮，打造國際AI創(chuàng)新高地。天翼云還開放AI云電腦平臺，打造AI應(yīng)用中心，提供AI助手、AI空間、AI客服、AI低代碼等AI創(chuàng)新應(yīng)用，使AI應(yīng)用能夠更廣泛地接入和使用，全力構(gòu)建開放的模型、數(shù)據(jù)、應(yīng)用生態(tài)。
國云筑基，智算引擎。未來，天翼云將繼續(xù)肩負(fù)國云使命，堅持核心技術(shù)自主研發(fā)，不斷提升智算服務(wù)能力，全面賦能新質(zhì)生產(chǎn)力發(fā)展，攜手行業(yè)合作伙伴，共同開創(chuàng)數(shù)字經(jīng)濟高質(zhì)量發(fā)展的新未來。 
