C114訊 6月26日消息(焦焦)ChatGPT橫空出世,掀起了AI行業(yè)的發(fā)展熱潮。大模型從嶄露頭角到現(xiàn)在的如日中天,全行業(yè)已然在AI的新時代中全速前進,大模型成為驅(qū)動創(chuàng)新的焦點之一。在AI帶來生產(chǎn)力革新與商業(yè)模式升級浪潮下,作為向科技公司轉型的領軍央企,運營商在AI領域不斷加碼布局,為通信產(chǎn)業(yè)邁入大模型時代積極領路,構建數(shù)智生產(chǎn)力也被被賦予前所未有的重要使命。
在2024年MWC上海展上,作為運營商的重要合作伙伴,浩鯨科技圍繞“智能時代,構建數(shù)智生產(chǎn)力”為主題,分享在大模型的驅(qū)動下,如何賦能運營商業(yè)務和運營管理快速實現(xiàn)深度智能化,并展示在加速智能化進程中的技術突破和創(chuàng)新應用,為運營商構建從智能基礎設施、大模型平臺、到創(chuàng)新數(shù)智應用落地的全方位支持,攜手運營商共筑智能化未來宏圖,加速數(shù)智躍升。
運營商數(shù)字化建設成果仍存挑戰(zhàn),亟待解決
在智能化浪潮下,運營商在推進自身轉型的同時積極發(fā)力產(chǎn)業(yè)數(shù)字化建設,據(jù)C114觀察,目前運營商數(shù)字化轉型取得顯著成效。在為用戶提供更快速、更穩(wěn)定的通信網(wǎng)絡連接的同時,推出更豐富的數(shù)字化服務和增值服務,并通過數(shù)據(jù)驅(qū)動的運營,更加精準地滿足最終用戶的個性化需求,提高數(shù)據(jù)資產(chǎn)的管理利用效率。
浩鯨科技中國CTO鐘健松在接受C114專訪時指出,運營商的數(shù)字化建設走過三十年,已取得卓越成效,成為推動國家數(shù)字經(jīng)濟建設的領頭羊。但以發(fā)展的視角審視當前的數(shù)字化建設成果,依舊存在一些挑戰(zhàn),亟待智能化手段去解決。
1、生產(chǎn)要素已被大量累積,但價值發(fā)揮有限
鐘健松認為,經(jīng)過數(shù)十年的的數(shù)字化發(fā)展與積累,運營商沉淀了海量的數(shù)據(jù),包括資源、網(wǎng)絡、服務、客戶、渠道等立體多維數(shù)據(jù)資產(chǎn),堪稱為“寶藏數(shù)據(jù)礦場”;谶@些數(shù)據(jù),運營商內(nèi)部構建了諸多報表系統(tǒng)、數(shù)據(jù)分析系統(tǒng),但對數(shù)據(jù)的提取和分析仍存在諸多動態(tài)變化,導致當前各下屬公司依然要配備大量取數(shù)人員,以響應每月不同維度的看數(shù)要求。
此外,隨著中臺的建設,運營商的重點已從功能建設逐漸轉向能力構建,能力不斷累積和豐富,并逐步沉淀為企業(yè)的能力資產(chǎn)。盡管能力資產(chǎn)在助力數(shù)字化應用建設過程中發(fā)揮了一定價值,但由于能力的可視化、非完全的集約、從能力到應用的轉化難度等問題,制約了能力資產(chǎn)的價值發(fā)揮。
鐘健松表示,相比數(shù)據(jù)資產(chǎn)和能力資產(chǎn),企業(yè)的知識資產(chǎn)受重視程度不夠,少量的知識庫僅存儲了某些關于產(chǎn)品營銷方面的內(nèi)容,而更需要傳承的例如網(wǎng)絡運維、故障處理、施工操作、方案配置等方面的知識,要么作為規(guī)則被整合到系統(tǒng)中,缺乏迭代更新;要么沉淀在少數(shù)專家的頭腦中,難以復制和傳承。
2、生產(chǎn)效率盡管在不斷提高,但仍有很大提升空間
當前,流程驅(qū)動已成為數(shù)字化系統(tǒng)的一個典型特征,但流程驅(qū)動有其受限之處。首先,流程為異步處理,非實時,可能會因為環(huán)節(jié)之間的來回回退導致處理時間拉長,而企業(yè)的生產(chǎn)運營則有大量需要實時解決問題的場景,比如涉及到多方參與的網(wǎng)絡疑難故障診斷分析,基于流程驅(qū)動的派單式的解決方式就不太適用。
其次,在新技術的推動下,自動化、智能化的述求在企業(yè)運營中越來越強烈,雖然通過規(guī)則、AI算法、RPA等的引入能夠解決不少問題,但目前采取“散點注智”的開發(fā)模式,派生出多種類型的規(guī)則引擎、推薦引擎、調(diào)度引擎等多個系統(tǒng),開發(fā)周期長、應用面狹窄,管理分散,從而導致需求難以即時響應,自智成熟度等級難以產(chǎn)生質(zhì)的飛躍。
3、數(shù)字化系統(tǒng)林立,使用者陷入系統(tǒng)和功能的海洋
盡管在ITSP的規(guī)劃下,運營商數(shù)字化系統(tǒng)縱向集約橫向整合,系統(tǒng)數(shù)量已做了大幅收斂,但當前系統(tǒng)規(guī)模依然龐大,不同崗位人員需要面對諸多系統(tǒng)以及功能模塊,在龐雜的系統(tǒng)中尋找對應的功能,費時費力,以至于大量已開發(fā)出的功能模塊因不被認知而使用率極低。
與此同時,為了應對復雜場景,數(shù)字化系統(tǒng)往往配備繁瑣的使用界面,使用者需要在各種彈出的窗口、頁簽中切換,使用門檻高,工作負荷大。
大模型,助推運營商向理想藍圖平滑演進
據(jù)C114了解,強大的通用智能能力,催生AI創(chuàng)新應用多點開花。國內(nèi)外均積極、迅速地推進大模型訓練,千億參數(shù)模型層出不窮,大模型驅(qū)動的場景也在逐步落地,但大模型的價值發(fā)揮并不是想象中的一蹴而就。大模型應用在落地過程需要多方參與,且對算力、平臺、算法的要求較高,因此盡管大模型的訓練量不斷擴大,在不同行業(yè)不同領域也多有應用,但應用的發(fā)展水平與速度參差不齊,部分領域尚且很難將模型價值發(fā)揮實效,推動行業(yè)大模型“真正落地”的機遇與挑戰(zhàn)并存。
鐘健松認為,整體而言,大模型依然處于成熟過程中,技術演進日新月異,還需要克服其在行業(yè)實際應用中的各類技術缺陷,比如幻覺、算力成本高、知識實時更新差等問題。如若貿(mào)然利用大模型重構IT系統(tǒng)來替換現(xiàn)有IT,會因為反復折騰消耗巨大的人力物力,帶來的價值效果可能也不盡如人意。面對以上難點,需要選擇一條穩(wěn)步、平滑演進的路線,通過先引入大模型增強現(xiàn)有數(shù)字化系統(tǒng)架構和能力,再逐步升級替代到理想藍圖。
在這條演進路線上,一方面需要從系統(tǒng)工程的角度來提升通用人工智能的準確性、適應性、創(chuàng)造性和效率,另一方面需要結合運營商數(shù)字化場景及當期架構模式,構建出增強演進的架構體系?傮w看來,整個增強體系可分為2+3+N+1來分層演進。
“2”通過2個核心平臺的引入,增強企業(yè)IT整體架構
MAAS平臺,將大模型能力更絲滑地嵌入到企業(yè)數(shù)字化系統(tǒng)中。未來的頭部企業(yè),很有可能采用1+N的大模型構建方式,即在一個主力大模型的基礎上,還會根據(jù)不同場景需要,應用N個各有擅長以及尺寸不同的其它模型。MAAS平臺將對接各類不同的大模型,以更安全和更高性價比的方式向上統(tǒng)一提供模型服務。同時為解決大模型生成幻覺問題和知識滯后性問題,引入RAG,將非參數(shù)化預料庫和參數(shù)模型結合,解決純參數(shù)化大模型的局限。并對原始RAG架構優(yōu)化,通過增加意圖識別、問題改寫、查詢擴展、結構化和非結構化數(shù)據(jù)動態(tài)路由、多路召回、降噪去重等工程化手段大幅提升實際場景下的知識服務能力。
mmRTC平臺,在原有頁面集成、流程集成、數(shù)據(jù)集成、企業(yè)集成架構的基礎上,搭建多模態(tài)的實時通信交互平臺,實現(xiàn)人-人、人-智能體、人-智能體-人、多智能體等多種方式的即時協(xié)同,充分發(fā)揮智能體在感知、規(guī)劃、記憶、執(zhí)行等方面的能力,面對復雜場景,改變傳統(tǒng)異步派單的模式,在人腦和智腦的多維加持下,實現(xiàn)實時分析、精準診斷、即時處理,推進效率的大幅提升。該平臺與運營商的網(wǎng)絡故障診斷、裝維疑難問題處理、復雜方案營銷等場景非常適配。
“3”通過3個工廠的建設,提升數(shù)字化生產(chǎn)效率
知識工廠:在知識工廠中訓練兩類知識,一類是經(jīng)營領域的專業(yè)知識,包括前端營銷涉及的產(chǎn)品、渠道、客戶等以及后端運維涉及的的網(wǎng)絡、故障分析等;另一類是數(shù)字化領域的專業(yè)知識,包括IT系統(tǒng)數(shù)據(jù)模型、功能頁面、集成關系等。知識工廠提供高效工具幫助企業(yè)通過多種形式建立專屬知識庫,解決知識分散、信息損失等問題,實現(xiàn)知識可運營、可迭代優(yōu)化,基于知識標簽,最終實現(xiàn)一問多答,更好的滿足跨地域、多產(chǎn)品、多客戶類型的豐富的經(jīng)營形態(tài)。
智能體工廠:未來Agent as a Service 或許將逐步取代目前IT架構的微服務模式。在智能體工廠中,將整合目前已形成的海量插件,以低代碼的方式,通過工作流的可視化開發(fā)形態(tài),將模型、知識庫、提示詞、插件工具進行鏈式整合,構建出面向不同領域、解決不同場景問題的智能體。
數(shù)字應用工廠:更高效更低門檻構建數(shù)字化應用是IT工作者的追求?梢灶A見,以大模型來驅(qū)動,識別需求意圖,搭載低代碼組裝式開發(fā),數(shù)字應用生產(chǎn)效率將倍增。應用開發(fā)的同時數(shù)字資產(chǎn)不斷豐富,又進一步提升數(shù)字應用的開發(fā)效率。運營商推進政企市場,智能數(shù)字工廠將為其如虎添翼。
“N”通過N個場景的智慧化,推進全面智能的落地
將大模型的理解、生成、邏輯、記憶四大能力結合運營商的場景,浩鯨科技已實現(xiàn)如下諸多大類智慧化應用,全面大幅提升數(shù)字化智能水平。
生成類場景:包括營銷方案、禮包策劃、營銷海報等應用;
診斷類場景:包括家寬綜調(diào)助手、資費爭議診斷等應用;其中家寬綜調(diào)助手面向裝維和綜調(diào)人員,提供自然語言順暢交互、問題智能精準診斷以及即時處理等智能化支撐;
助理類場景:包括CRM營業(yè)助手、資源助手等應用;
分析類場景:推出chatBI分析助手,提供海量報表一問直達、智能按需問數(shù)、隨心深度探索數(shù)據(jù)等智能能力
稽核類場景:包括資費稽核、合同稽核等應用;
問答類場景:基于統(tǒng)一框架快速高效搭建各類場景的問答機器人,基于浩鯨特有技術既保障答案的精準度,又保證完整度,同時還支持一問多答的跨地域跨產(chǎn)品的特有場景應用。
代碼類場景:通過代碼大模型幫助軟件工程師編碼時實現(xiàn)代碼理解、自動補全,提升軟件開發(fā)人員的編碼效率和代碼質(zhì)量。
“1”通過1個“無系統(tǒng)”的打造,實現(xiàn)嶄新的交互形態(tài)
“無系統(tǒng)”一方面將企業(yè)數(shù)字化系統(tǒng)的數(shù)據(jù)、功能界面、使用操作、業(yè)務知識等訓練給大模型,另一方面構建統(tǒng)一入口,在該入口以自然語言的方式調(diào)用功能模塊、完成功能模塊的操作(包括跨系統(tǒng)的鏈式操作)、查看權限內(nèi)的數(shù)據(jù)(包括跨系統(tǒng)的整合數(shù)據(jù))等。
對于使用者而言,不再需要關注端到端的流程穿越具體在哪個系統(tǒng)和菜單定位,只需要表達自己的意圖,通過統(tǒng)一入口,由智能助手實現(xiàn)一步直達。此入口可掛載在現(xiàn)有任一數(shù)字化系統(tǒng)上,即時呼出,隨地調(diào)用。
運營商深入大模型應用腹地,浩鯨科技將做大模型價值釋放者
從整個電信行業(yè)來看,2023年以來,三大運營商相繼推出自己的基礎大模型、行業(yè)大模型和大模型應用工具,如今運營商更是深入大模型應用腹地,不斷落子。
據(jù)C114了解,中國移動推出APP的AI智能助理“靈犀”,深度嵌入到最新升級的中國移動APP V10版本中,從用戶使用需求出發(fā),依托大模型的內(nèi)容生成能力改善用戶體驗。而中國電信,前不久一口氣發(fā)布了12個垂類行業(yè)大模型,加強在各個領域的深度應用。中國聯(lián)通也發(fā)布了元景“1+1+M”大模型體系,更在5月進一步發(fā)布中國聯(lián)通元景大模型MaaS平臺,為企業(yè)行業(yè)向MaaS服務。
總體來看,三大運營商對大模型,無論是反應速度、研發(fā)深度,還是覆蓋廣度,都格外突出。對運營商而言,大模型提供了一個契機,讓運營商不僅僅作為通信網(wǎng)絡的基礎設施提供商,還可以整合自身在全國一體化算力網(wǎng)絡、云資源等技術方面和政企市場、消費者市場等客戶方面的多種優(yōu)勢,更深度地參與到產(chǎn)業(yè)智能化升級與數(shù)字化轉型中,重構自身在數(shù)字化業(yè)務中的競爭優(yōu)勢。
正如采訪的最后,鐘健松表示,大模型企業(yè)落地遠不止“一公里”, 涉及端到端全程各環(huán)節(jié)配套,包括算力資源、大模型切換、私域知識高效導入、智能體構建、copilot與現(xiàn)有系統(tǒng)融合,以及每個層面特有的推進方法。在智能時代,未來的IT系統(tǒng)將有著新的架構、運營模式、研發(fā)范式以及交互形態(tài),而作為運營商的重要且長期合作伙伴,浩鯨科技不做大模型的生產(chǎn)者,但會基于自身對行業(yè)的深度理解,以及通過體系化的工程手段,致力做大模型真實價值釋放者和使能者,助力運營商全面推進AI+戰(zhàn)略落地,加速AI融入百業(yè),加速數(shù)智新增長。