C114通信網(wǎng)  |  通信人家園

資訊
2024/9/12 09:35

中國電信李俊杰:踐行“云網(wǎng)融合”理念,創(chuàng)新分布式智算規(guī)模組網(wǎng)

C114通信網(wǎng)  水易

C114訊 9月12日消息(水易)第25屆中國國際光電博覽會在深圳開幕,同期舉辦的“算力時代新型光傳送技術(shù)論壇”期間,中國電信研究院副院長李俊杰表示,智算時代,算力需求從線性增長變?yōu)橹笖?shù)級增長,未來集群向十萬卡級甚至百萬卡級演進(jìn)以支撐模型參數(shù)擴(kuò)展。

AI大模型訓(xùn)練等工作需要在大量的計算單位中傳遞海量數(shù)據(jù),打造大帶寬、低時延、高可靠的高品質(zhì)智算互聯(lián)光網(wǎng)絡(luò)基礎(chǔ)設(shè)施成為關(guān)鍵。在李俊杰看來,智算時代,光通信技術(shù)迎來一系列新技術(shù)需求和新應(yīng)用機(jī)會。

智算中心內(nèi):要重視光模塊可靠性

目前數(shù)據(jù)中心內(nèi)部,Spine-Leaf架構(gòu)成為主流,大幅提升了數(shù)據(jù)互連的效率。不過,隨著AI需求的持續(xù)增長,需要對架構(gòu)持續(xù)創(chuàng)新,F(xiàn)ull-mesh Spine-leaf架構(gòu)的出現(xiàn)對光模塊的需求顯著增加。

當(dāng)前,數(shù)據(jù)中心內(nèi)800G光模塊逐漸成為主流,1.6T光模塊應(yīng)用需求開始萌芽,3.2T光模塊技術(shù)開始研究。核心電口方面,單通道100G serdes速率技術(shù)成熟,單通道200G預(yù)計2025年啟動應(yīng)用。標(biāo)準(zhǔn)層面,800G光模塊標(biāo)準(zhǔn)基本完成,1.6T光模塊標(biāo)準(zhǔn)處于研究階段。

與此同時,隨著光模塊速率持續(xù)升級,在功耗控制、單比特傳輸成本優(yōu)化、傳輸時延等方面對光模塊提出了更高的要求,發(fā)展低成本、低功耗和低時延的高速光模塊勢在必行。李俊杰表示,800G/1.6T會有更多LPO/LRO的創(chuàng)新,到了3.2T以上會走向CPO。

另外,大模型訓(xùn)練的高可靠要求傳遞到了光模塊,智算中心光模塊可靠性要求或許超過電信級。李俊杰指出:“只要可用率提升很多,訓(xùn)練帶來的收益會更大!睋(jù)了解,IPEC立項電信級光模塊可靠性要求標(biāo)準(zhǔn)項目,促進(jìn)電信級光模塊的質(zhì)量提升和市場發(fā)展。

想要進(jìn)一步降低設(shè)備的處理和轉(zhuǎn)發(fā)時延,OCS憑借全光交換優(yōu)勢,可為智算中心內(nèi)部互聯(lián)提供一種新型組網(wǎng)方案。據(jù)介紹,目前互聯(lián)網(wǎng)公司對OCS的探索和實踐更為靠前,主要有壓電陶瓷方案、MEMS方案等等,不同技術(shù)方案的可靠性、切換時間、端口數(shù)量、成本、功耗等性能需進(jìn)一步驗證。

智算中心間分布式集群成為熱點

超大規(guī)模GPU集群成為大模型訓(xùn)練的必要條件,需求指數(shù)級增長對AI基礎(chǔ)設(shè)施帶來極大挑戰(zhàn),特別是電力供應(yīng)/機(jī)房空間成為單體大規(guī)模智算建設(shè)的瓶頸。對此,業(yè)界正在探索多數(shù)據(jù)中心互聯(lián)提供分布式訓(xùn)練環(huán)境。

目前,骨干網(wǎng)已經(jīng)入400G C+L時代,800G可覆蓋城域應(yīng)用場景,1.2T可覆蓋數(shù)據(jù)中心光互聯(lián)場景。與此同時,受智算業(yè)務(wù)大帶寬的需求,S波段或成為下一代波段擴(kuò)展的方向。然而,光放大器、多波段下的功率管理,以及系統(tǒng)級性能優(yōu)化仍然是挑戰(zhàn)。

“我們做所有的事情都是需要商業(yè)閉環(huán),一定是真需求、真方案,而且是性價比可靠的方案!崩羁〗軓(qiáng)調(diào),技術(shù)最終要為業(yè)務(wù)服務(wù),比如說多波段,技術(shù)人員肯定會覺得這么長的頻譜非常完美,也可以實現(xiàn),不過是否能夠商業(yè)閉環(huán),需要認(rèn)真考慮。

中國電信積極探索800G以及擴(kuò)展波段傳輸,800G實現(xiàn)省際熱點區(qū)域的高速傳輸;1.2T可以支持DCI大容量互聯(lián);S+C+L能夠進(jìn)一步提高單纖可支持的最大傳輸容量。

除了骨干網(wǎng)技術(shù)的升級,空芯光纖等新型傳輸介質(zhì),未來在更長距離智算拉遠(yuǎn)場景,可進(jìn)一步優(yōu)化傳輸鏈路時延。中國電信聯(lián)合產(chǎn)業(yè)界伙伴完成數(shù)據(jù)中心間10km空芯光纜的管道鋪設(shè)與戶外熔接等,驗證了其部署的可行性。李俊杰介紹,空芯光纖還需要解決光纖拉絲長度距離短、對應(yīng)力敏感、熔接回?fù)p大、運維難度大等挑戰(zhàn),才能加速商用進(jìn)程。

據(jù)了解,中國電信完成了業(yè)界首例現(xiàn)網(wǎng)140公里、異地三機(jī)房分布式訓(xùn)練驗證,實驗表明,百億參數(shù)模型在百公里內(nèi)的64卡級(6.4T帶寬)分布式訓(xùn)練性能達(dá)到集中式訓(xùn)練性能的95%以上。

對于多點智算集群大規(guī)模組網(wǎng)后續(xù)優(yōu)化思路,李俊杰表示可以通過增加網(wǎng)絡(luò)互連帶寬和提高系統(tǒng)可靠性來探索最佳解決方案,實現(xiàn)無損智算傳輸網(wǎng)絡(luò)。此外,能否廣泛部署需要解決IP與光協(xié)同管控問題,計算技術(shù)和網(wǎng)絡(luò)技術(shù)的協(xié)同是提高分布式智算集群效率的關(guān)鍵。

給作者點贊
0 VS 0
寫得不太好

版權(quán)說明:C114刊載的內(nèi)容,凡注明來源為“C114通信網(wǎng)”或“C114原創(chuàng)”皆屬C114版權(quán)所有,未經(jīng)允許禁止轉(zhuǎn)載、摘編,違者必究。對于經(jīng)過授權(quán)可以轉(zhuǎn)載我方內(nèi)容的單位,也必須保持轉(zhuǎn)載文章、圖像、音視頻的完整性,并完整標(biāo)注作者信息和本站來源。編譯類文章僅出于傳遞更多信息之目的,不代表證實其描述或贊同其觀點;翻譯質(zhì)量問題請指正。

熱門文章
    最新視頻
    為您推薦

      C114簡介 | 聯(lián)系我們 | 網(wǎng)站地圖 | 手機(jī)版

      Copyright©1999-2024 c114 All Rights Reserved | 滬ICP備12002291號

      C114 通信網(wǎng) 版權(quán)所有 舉報電話:021-54451141