12月18日下午消息，今日舉辦的火山引擎Force大會(huì)上，字節(jié)跳動(dòng)基礎(chǔ)框架負(fù)責(zé)人趙鵬偉表示，“更極致性價(jià)比、更深度創(chuàng)新、更可靠安全是AI行業(yè)的發(fā)展趨勢(shì)。”
云原生是過(guò)去十年最重要的計(jì)算范式，大模型時(shí)代則推動(dòng)著云計(jì)算的變革。
火山引擎認(rèn)為，下一個(gè)十年，計(jì)算范式應(yīng)該從云原生進(jìn)入到AI云原生的新時(shí)代�；贏I云原生的理念，火山引擎推出了新一代計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)和和安全產(chǎn)品。在計(jì)算層面，火山引擎GPU實(shí)例，通過(guò)vRDMA網(wǎng)絡(luò)，支持大規(guī)模并行計(jì)算和P/D分離推理架構(gòu)，顯著提升訓(xùn)練和推理效率，降低成本；存儲(chǔ)上，新推出的EIC彈性極速緩存，能夠?qū)崿F(xiàn)GPU直連，使大模型推理時(shí)延降低至1/50、成本降低20%；在安全層面，火山將推出PCC私密云服務(wù)，構(gòu)建大模型的可信應(yīng)用體系�；赑CC，企業(yè)能夠?qū)崿F(xiàn)用戶數(shù)據(jù)在云上推理的端到端加密，而且性能很好，推理時(shí)延比明文模式的差異在5%以內(nèi)。
