12月18日下午消息，今日舉辦的火山引擎Force大會上，字節(jié)跳動基礎(chǔ)框架負(fù)責(zé)人趙鵬偉表示，“更極致性價比、更深度創(chuàng)新、更可靠安全是AI行業(yè)的發(fā)展趨勢。”
云原生是過去十年最重要的計算范式，大模型時代則推動著云計算的變革。
火山引擎認(rèn)為，下一個十年，計算范式應(yīng)該從云原生進(jìn)入到AI云原生的新時代�；贏I云原生的理念，火山引擎推出了新一代計算、網(wǎng)絡(luò)、存儲和和安全產(chǎn)品。在計算層面，火山引擎GPU實例，通過vRDMA網(wǎng)絡(luò)，支持大規(guī)模并行計算和P/D分離推理架構(gòu)，顯著提升訓(xùn)練和推理效率，降低成本；存儲上，新推出的EIC彈性極速緩存，能夠?qū)崿F(xiàn)GPU直連，使大模型推理時延降低至1/50、成本降低20%；在安全層面，火山將推出PCC私密云服務(wù)，構(gòu)建大模型的可信應(yīng)用體系�；赑CC，企業(yè)能夠?qū)崿F(xiàn)用戶數(shù)據(jù)在云上推理的端到端加密，而且性能很好，推理時延比明文模式的差異在5%以內(nèi)。
