近日，由中國通信企業(yè)協(xié)會(huì)主辦的2024中國信息通信業(yè)發(fā)展高層論壇在北京召開。本屆大會(huì)圍繞“創(chuàng)新數(shù)據(jù)新要素 發(fā)展新質(zhì)生產(chǎn)力”進(jìn)行交流研討、實(shí)踐分享。
當(dāng)前，人工智能已經(jīng)成為數(shù)字經(jīng)濟(jì)發(fā)展的新引擎。全面提升智能算力供給水平，將有效推動(dòng)人工智能應(yīng)用商業(yè)落地。天翼云科技有限公司行業(yè)解決方案總監(jiān)祁超在會(huì)上發(fā)表《云智一體 國云助力數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展》演講，闡述了天翼云秉持國云使命，積極布局智算產(chǎn)業(yè)，以豐富的智算資源、強(qiáng)大的智算服務(wù)能力和開放的模型應(yīng)用生態(tài)，賦能數(shù)字經(jīng)濟(jì)發(fā)展的創(chuàng)新舉措及實(shí)踐成就。
祁超表示，天翼云自建了豐富、多元化的智能算力資源。圍繞AI產(chǎn)業(yè)集聚區(qū)，天翼云規(guī)劃建設(shè)北京、上海、廣東、浙江、安徽人工智能公共算力中心；建設(shè)內(nèi)蒙、貴州、寧夏智算中心，提供綠色算力；先后建成上海、北京萬卡池，這也是全國最早建成并真正投產(chǎn)運(yùn)行的兩個(gè)國產(chǎn)化、全液冷、單集群萬卡公共智算中心。此外，天翼云通用算力實(shí)現(xiàn)層次化布局，一城一池覆蓋超280個(gè)城市，邊緣節(jié)點(diǎn)超1000個(gè)。
天翼云作為國家云已經(jīng)越過了智能云發(fā)展的拐點(diǎn)。面向人工智能時(shí)代，天翼云積極構(gòu)建領(lǐng)先的智算云能力體系，打造“息壤”一體化智算平臺(tái)，突破了多項(xiàng)算力互聯(lián)調(diào)度關(guān)鍵技術(shù)，擁有強(qiáng)大的算網(wǎng)調(diào)度能力、高效的異構(gòu)計(jì)算能力、一站式的訓(xùn)推服務(wù)能力，并積累了豐富的落地應(yīng)用案例。
強(qiáng)大的算網(wǎng)調(diào)度能力 高效調(diào)度實(shí)現(xiàn)供需匹配
“息壤”突破了多項(xiàng)關(guān)鍵技術(shù)，可實(shí)現(xiàn)跨域跨服務(wù)商異構(gòu)算力一體化供給。通過算力插件和算力網(wǎng)關(guān)，實(shí)現(xiàn)了算力的統(tǒng)一、高效和云化接入；通過算數(shù)協(xié)同和多級(jí)算力互聯(lián)調(diào)度，實(shí)現(xiàn)了算數(shù)網(wǎng)的一體化調(diào)度，數(shù)隨算走，算隨數(shù)動(dòng)，調(diào)度區(qū)域更廣，算力更泛在；借助大模型認(rèn)知能力和業(yè)務(wù)調(diào)度，實(shí)現(xiàn)算力選擇和應(yīng)用部署簡(jiǎn)單化，故障自動(dòng)恢復(fù)與負(fù)載均衡，使算力簡(jiǎn)便易用。
基于上述技術(shù)突破，“息壤”可賦能三大應(yīng)用場(chǎng)景：一是天翼云自營的公共算力服務(wù)，目前已接入多家算力生態(tài)合作伙伴，滿足公有云客戶的多元算力需求；二是行業(yè)算力互聯(lián)網(wǎng)，如國資央企智算云管理調(diào)度平臺(tái)，接入多家央企算力，提升算力利用率；三是城市算力互聯(lián)網(wǎng)，通過整合區(qū)域內(nèi)多方算力，實(shí)現(xiàn)算力一網(wǎng)化、統(tǒng)籌一體化、調(diào)度一站式。
高效的異構(gòu)計(jì)算能力 為大模型提供高性能計(jì)算平臺(tái)
依托“息壤”高效的異構(gòu)計(jì)算能力，可破解大模型訓(xùn)練推理過程中面臨的大算力、高性能、高穩(wěn)定等諸多挑戰(zhàn)。通過并行文件存儲(chǔ)、低延時(shí)超大規(guī)模RDMA網(wǎng)絡(luò)等措施，有效提升綜合算效，滿足大算力需求；通過AI框架升級(jí)、存儲(chǔ)加速，實(shí)現(xiàn)checkpoint文件快速保存、加載，將國產(chǎn)算力的綜合算效提升到了行業(yè)可比水平，滿足高性能算力需求；通過多項(xiàng)指標(biāo)的監(jiān)控分析，實(shí)現(xiàn)故障訓(xùn)前發(fā)現(xiàn)，有效控制大模型訓(xùn)練中斷恢復(fù)時(shí)長，實(shí)現(xiàn)訓(xùn)練任務(wù)長期穩(wěn)定、高可用運(yùn)行�；趪a(chǎn)萬卡智算集群和自研智算平臺(tái)，天翼云已具備支撐萬億參數(shù)基礎(chǔ)大模型訓(xùn)練的能力。
一站式的訓(xùn)推服務(wù)能力 降低大模型應(yīng)用創(chuàng)新開發(fā)門檻
面向行業(yè)大模型訓(xùn)推場(chǎng)景，“息壤”一站式訓(xùn)推服務(wù)能力可有效解決訓(xùn)練部署工程復(fù)雜、訓(xùn)推效率低、訓(xùn)練中斷頻繁等問題，降低大模型應(yīng)用創(chuàng)新開發(fā)門檻。具體而言，“息壤”將大模型精調(diào)場(chǎng)景簡(jiǎn)化操作至選數(shù)據(jù)、選硬件和選模型三個(gè)步驟，顯著提升部署效率；通過自研AI框架、3D并行加速、自研訓(xùn)練加速庫、容器調(diào)度優(yōu)化等核心技術(shù)，大幅提升訓(xùn)練效率；通過模型量化壓縮、自研推理加速算子庫、自研AI推理加速框架等核心技術(shù)，提高推理效率；通過全鏈路故障檢測(cè)、定位、告警，全鏈路日志監(jiān)控與可視化、斷點(diǎn)續(xù)訓(xùn)快速恢復(fù)等核心技術(shù)，實(shí)現(xiàn)訓(xùn)推過程全鏈路監(jiān)控。當(dāng)前，“息壤”已在多地智算中心、人工智能實(shí)驗(yàn)室等項(xiàng)目中應(yīng)用實(shí)踐。
共建開放模型應(yīng)用生態(tài) 共筑AI產(chǎn)業(yè)繁榮
構(gòu)建開放的產(chǎn)業(yè)生態(tài)，是加快推動(dòng)人工智能和實(shí)體經(jīng)濟(jì)深度融合的重要路徑。面對(duì)中文AI資源治理匱乏、技術(shù)門檻制約AI+應(yīng)用落地等核心挑戰(zhàn)，天翼云魔樂（Modelers）開發(fā)者社區(qū)，聚合中文優(yōu)質(zhì)AI資源，孵化國產(chǎn)原生模型，加速伙伴商業(yè)閉環(huán)，促進(jìn)AI使能千行百業(yè)。魔樂（Modelers）開發(fā)者社區(qū)集成了模型庫、數(shù)據(jù)集和體驗(yàn)空間等核心組件，覆蓋自然語言處理、視覺、音頻等領(lǐng)域，提供原生模型、易用開發(fā)工具、豐富的生態(tài)資源，助力開發(fā)者高效進(jìn)行AI應(yīng)用創(chuàng)新，促進(jìn)國產(chǎn)AI生態(tài)繁榮，打造國際AI創(chuàng)新高地。天翼云還開放AI云電腦平臺(tái)，打造AI應(yīng)用中心，提供AI助手、AI空間、AI客服、AI低代碼等AI創(chuàng)新應(yīng)用，使AI應(yīng)用能夠更廣泛地接入和使用，全力構(gòu)建開放的模型、數(shù)據(jù)、應(yīng)用生態(tài)。
國云筑基，智算引擎。未來，天翼云將繼續(xù)肩負(fù)國云使命，堅(jiān)持核心技術(shù)自主研發(fā)，不斷提升智算服務(wù)能力，全面賦能新質(zhì)生產(chǎn)力發(fā)展，攜手行業(yè)合作伙伴，共同開創(chuàng)數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展的新未來。 
