C114訊 7月10日消息(艾斯)不少人用“百模大戰(zhàn)”來形容剛剛落幕的2023年世界人工智能大會(huì)(WAIC 2023)。從ChatGPT開始的人工智能(AI)應(yīng)用加速落地,在上周于上海舉行的這場(chǎng)人氣爆棚的全球盛會(huì)上得到了清晰印證。
英特爾中國(guó)區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官、英特爾高級(jí)首席AI工程師張宇博士在WAIC期間接受C114等媒體采訪時(shí)表示,最新這一輪人工智能的發(fā)展起始于2012年,隨后以卷積神經(jīng)網(wǎng)絡(luò)為代表的深度學(xué)習(xí)技術(shù)得到了大規(guī)模應(yīng)用。而大模型的發(fā)展則始于2017年,從技術(shù)積累的角度來看,模型尺寸的增加是一個(gè)方面,引入Attention等機(jī)制和Transformer等模型則推動(dòng)了大模型技術(shù)或應(yīng)用場(chǎng)景的不斷成熟。但需要看到的是,目前大模型的商業(yè)模式仍在摸索當(dāng)中,仍需進(jìn)一步觀察。
他指出,推動(dòng)本輪人工智能發(fā)展最核心的要素,實(shí)際上是計(jì)算、通訊和存儲(chǔ)技術(shù)的不斷提升。同時(shí),無論是大模型還是融合AI,實(shí)際上邊緣在整個(gè)AI生態(tài)系統(tǒng)中扮演著非常重要的角色。因?yàn)檫吘夒x我們?nèi)粘I钭罱,?huì)直接影響用戶體驗(yàn)。
邊緣AI發(fā)展仍處于推理階段
目前,傳統(tǒng)的人工智能算法和模型已經(jīng)無法滿足日益增長(zhǎng)的數(shù)字化轉(zhuǎn)型需求,因此在邊緣場(chǎng)景中使用人工智能已成為一種重要趨勢(shì)。邊緣人工智能是將人工智能算法和模型部署在邊緣設(shè)備上,從而提供更高效、更精準(zhǔn)的用戶體驗(yàn),并為企業(yè)的決策和生產(chǎn)提供更多動(dòng)力。但是,張宇分析稱,邊緣人工智能目前絕大部分的應(yīng)用還處于邊緣推理階段。
具體來說,他認(rèn)為邊緣人工智能的發(fā)展可以分為三個(gè)階段:第一個(gè)階段是邊緣推理,第二個(gè)階段是邊緣訓(xùn)練,第三個(gè)階段是邊緣自主機(jī)器學(xué)習(xí)!叭绻耘实歉叻鍋砻枋稣麄(gè)邊緣人工智能的發(fā)展,那么實(shí)現(xiàn)了邊緣推理,僅代表我們站到了山腳;實(shí)現(xiàn)了邊緣訓(xùn)練,也僅代表我們站到了半山腰;只有真正實(shí)現(xiàn)了邊緣自主學(xué)習(xí),才真正意味著我們站到了高山之巔。”
當(dāng)然,邊緣人工智能的發(fā)展也面臨著眾多的挑戰(zhàn),這其中不僅包括邊緣訓(xùn)練的挑戰(zhàn),也包括邊緣設(shè)備面臨的挑戰(zhàn)。由于提供的算力所能夠承載的功耗往往是有限的,所以如何在有限資源的情況下去實(shí)現(xiàn)邊緣的推理及訓(xùn)練,這對(duì)芯片的性能、功耗比提出了更高的要求。同時(shí),邊緣設(shè)備的碎片化非常明顯,如何利用軟件很好地實(shí)現(xiàn)在不同平臺(tái)之間的遷移,實(shí)際上也提出了更多要求。再者,還有數(shù)據(jù)保護(hù)方面的問題必須進(jìn)行思考。
面向邊緣AI提供軟硬件端到端服務(wù)
“人工智能未來的發(fā)展需要依賴于底層技術(shù)的突破,這包括計(jì)算、通訊和存儲(chǔ)技術(shù)。只有這些底層技術(shù)不斷突破,才能實(shí)現(xiàn)對(duì)人工智能更高的要求。而這些底層技術(shù)正是英特爾在努力發(fā)展的方向,包括人工智能、邊緣到云的基礎(chǔ)架構(gòu)、無處不在的連接和傳感技術(shù)等。英特爾的‘五大超級(jí)力量’也是在這些底層技術(shù)的基礎(chǔ)上構(gòu)建的,這些‘超級(jí)力量’是人工智能應(yīng)用的基石。”張宇談到,英特爾作為一家數(shù)據(jù)公司,其產(chǎn)品涵蓋了推動(dòng)人工智能發(fā)展所需的計(jì)算、通訊和存儲(chǔ)的各個(gè)方面。
硬件層面,英特爾近日推出了面向邊緣的“英特爾 Developer Cloud for the Edge”硬件平臺(tái),旨在為用戶提供免費(fèi)的評(píng)估、基準(zhǔn)測(cè)試和原型設(shè)計(jì)環(huán)境,以支持使用英特爾硬件的人工智能和邊緣解決方案的開發(fā)。該平臺(tái)可滿足開發(fā)者訪問英特爾最新架構(gòu)CPU、GPU、VPU和FPGA等硬件資源的需求。此外在第四代英特爾 至強(qiáng) 可擴(kuò)展處理器上,英特爾也專門針對(duì)人工智能工作負(fù)載內(nèi)置了AMX(Advanced Matrix Extensions)Al加速引擎,提供了高峰值的矩陣乘法計(jì)算能力,進(jìn)一步提高了人工智能的性能和效率。
軟件層面,英特爾近期發(fā)布了英特爾 OpenVINO 2023.0版本,從更大程度上幫助AI開發(fā)者簡(jiǎn)化工作流程,在企業(yè)中更高效地部署高質(zhì)量的計(jì)算機(jī)視覺AI解決方案,以推動(dòng)創(chuàng)新和自動(dòng)化發(fā)展。通過用于數(shù)據(jù)上傳、標(biāo)注、模型訓(xùn)練和再訓(xùn)練的單一接口,英特爾Geti商用軟件平臺(tái)能夠幫助開發(fā)團(tuán)隊(duì)減少模型開發(fā)所需時(shí)間,并降低AI開發(fā)技術(shù)門檻及開發(fā)成本。英特爾也將于2023年7月11日正式在中國(guó)市場(chǎng)推出第二代Gaudi深度學(xué)習(xí)加速器——Habana Gaudi2。這款專用于高性能深度學(xué)習(xí)AI訓(xùn)練的Gaudi處理器,能夠幫助客戶以更低的成本進(jìn)行AI訓(xùn)練,更高效地進(jìn)行大規(guī)模AI應(yīng)用部署。
當(dāng)邊緣AI加入電信運(yùn)營(yíng)商網(wǎng)絡(luò)
值得注意的是,今年英特爾集團(tuán)進(jìn)行了一次重大的戰(zhàn)略調(diào)整,也即IDM2.0戰(zhàn)略;诖耍⑻貭杻(nèi)部新成立了網(wǎng)絡(luò)與邊緣事業(yè)部,將原來的物聯(lián)網(wǎng)、通信網(wǎng)絡(luò)和數(shù)據(jù)中心網(wǎng)絡(luò)基礎(chǔ)架構(gòu)三個(gè)部分合并在一起。這樣一來,該部門涵蓋的范圍就包括了物聯(lián)網(wǎng)、5G基站、5G接入、5G核心網(wǎng)以及數(shù)據(jù)中心高速網(wǎng)絡(luò)基礎(chǔ)架構(gòu)。如果從與AI的關(guān)系來看,這個(gè)基礎(chǔ)架構(gòu)可以真正實(shí)現(xiàn)邊緣和云的打通——因?yàn)锳I涉及到算法和數(shù)據(jù)的傳輸,而英特爾網(wǎng)絡(luò)與邊緣事業(yè)部關(guān)注的正是從邊緣到云的整個(gè)數(shù)據(jù)通路,特別是邊緣計(jì)算和人工智能應(yīng)用這一部分。
“因?yàn)橛脩舻腁I系統(tǒng)往往是一個(gè)端到端的系統(tǒng),我們部門則可以提供更全面的解決方案來服務(wù)于合作伙伴。例如,我們目前正在與一些運(yùn)營(yíng)商合作,他們提供的MEC服務(wù)通常在基站側(cè)提供一些邊緣計(jì)算能力,以與邊緣物聯(lián)網(wǎng)設(shè)備進(jìn)行連接。因此,我們部門可以提供物聯(lián)網(wǎng)解決方案和通信網(wǎng)MEC解決方案,將它們?nèi)诤显谝黄穑瑸檫\(yùn)營(yíng)商提供端到端的解決方案,從設(shè)備到網(wǎng)關(guān)再到MEC平臺(tái),而不僅僅是一個(gè)盒子或一個(gè)MEC平臺(tái)!睆堄钤诮榻B說。
另外,英特爾在通過將AI引入通信網(wǎng)絡(luò)實(shí)現(xiàn)綠色節(jié)能方面也取得了顯著成效。根據(jù)一些咨詢公司報(bào)告,在整個(gè)整個(gè)端到端的通信網(wǎng)絡(luò)中,大約70%的能量消耗發(fā)生在邊緣側(cè),即接入網(wǎng)。但是接入網(wǎng)實(shí)際上有潮汐效應(yīng)。因此,英特爾與合作伙伴一起,共同研究了如何利用AI技術(shù)更好地調(diào)度網(wǎng)絡(luò)資源,從而使其平均能源消耗降低。據(jù)悉,在今年初的MWC巴塞羅那展上,英特爾就展示了利用英特爾底層技術(shù)的相關(guān)解決方案。
“在調(diào)配工作負(fù)載時(shí),實(shí)際上需要調(diào)整CPU的一些參數(shù),英特爾CPU中有不同的可調(diào)參數(shù),如P-state、C-state等。我們將這些參數(shù)開放給上層應(yīng)用,應(yīng)用可以根據(jù)當(dāng)前用戶的負(fù)載流量主動(dòng)利用AI分析的結(jié)果調(diào)整CPU的參數(shù),使CPU工作狀態(tài)與當(dāng)前負(fù)載更加匹配,達(dá)到最佳系統(tǒng)性能功耗比的指標(biāo)!睆堄畋硎,這是英特爾實(shí)際已經(jīng)在做或已經(jīng)在部署的例子。