隨著人工智能、大模型等技術的蓬勃發(fā)展，生成式AI應用全面爆發(fā)。在此背景下，服務機器人作為大模型技術在端側落地的關鍵場景，迎來了前所未有的發(fā)展機遇。
作為與用戶直接交互的智能設備，服務機器人需要應對復雜場景下的感知、決策和控制任務，這對其實時數(shù)據(jù)處理的能力提出了嚴苛要求。通過在端側集成AI大模型，服務機器人能夠在本地進行數(shù)據(jù)處理，顯著降低了數(shù)據(jù)延遲，提高了響應速度，可為用戶提供更加流暢、智能、高效的服務體驗。
移遠通信作為全球領先的物聯(lián)網(wǎng)整體解決方案供應商，在推動大模型技術的應用方面不斷開拓，其端側大模型解決方案融合前沿的LLM（大語言模型）、RAG（檢索增強生成）與Agent（智能體）等業(yè)界主流技術，可助力實現(xiàn) “情景理解、知識融合、智能交互、自主決策、任務執(zhí)行”等多種功能，目前已在服務機器人等領域加速落地。
該方案基于移遠邊緣計算智能模組SG885G-WF，搭載高通QCS8550平臺，具備高達48 TOPS的綜合算力，可為方案功能的實現(xiàn)提供充足的算力支持。在移遠大模型解決方案的助力下，服務機器人可實現(xiàn)1s以內(nèi)的意圖識別，解碼速率超過15 tokens/s，為用戶帶來更自然的語音交互以及更加個性化的服務體驗。
從KWS語音喚醒到VAD人聲檢測，再到ASR語音識別，最后通過TTS語音播報，移遠通信大模型解決方案在全語音鏈路上實現(xiàn)了無縫銜接與高效運行。無論是用戶發(fā)出指令、提出問題還是尋求幫助，服務機器人都能迅速響應，準確理解用戶意圖，并以清晰自然的語音進行反饋，為用戶帶來極具科技感的交互體驗。
移遠大模型解決方案可實現(xiàn)AI模型的端側部署，不僅提升了響應的實時性，還確保了隱私安全，并能在無網(wǎng)環(huán)境下正常工作，大大降低了推理成本。憑借卓越的性能以及高靈活性、高安全性、高性價比等優(yōu)勢，該方案在服務機器人的多種形態(tài)中展現(xiàn)出了強大的應用價值，可賦能多個實際場景的智能升級，例如：
醫(yī)療康養(yǎng)：大模型加持的機器人可以處理預約、咨詢等日常任務，減輕醫(yī)務人員的工作負擔。同時，還能為患者提供情感上的陪伴和支持，有助于緩解患者的焦慮和壓力；
智能客服：依托大模型的自然語言處理和理解能力，智能客服機器人能夠快速、準確地理解用戶的問題和需求，高效處理各種咨詢、投訴和售后服務場景，顯著提升服務的效率和質(zhì)量；
接待導覽：深度融合大模型能力的接待機器人和導覽機器人，不僅能夠?qū)崿F(xiàn)智能迎賓、智能帶路、智能問答、遠程操控等功能，還可根據(jù)用戶的興趣和需求，提供定制化的游覽路線和講解內(nèi)容，廣泛應用于企業(yè)展廳、博物館、旅游景點、醫(yī)療機構等場合；
零售導購：在大模型技術的加持下，零售導購機器人不僅能回答消費者關于商品、價格、促銷活動等問題，還可根據(jù)用戶購物歷史和偏好分析，提供個性化的商品推薦和搭配建議，同時提供便捷的店內(nèi)導航服務，幫助客戶快速找到商品，讓購物變得更加輕松愉悅。
值得一提的是，移遠通信大模型解決方案還具備全方位的工程化服務，能夠從感知、規(guī)劃、決策、執(zhí)行等階段，全面解決客戶項目中的各種工程化問題，如針對應用場景對模型進行微調(diào)、多個模型的合理調(diào)度等，使得大模型方案以更快速度、更低成本、更完善的服務體驗應用實踐。
當前，大模型技術日新月異，移遠大模型解決方案緊跟技術演進以及模型迭代，成功集成了通義千問、DeepSeek等業(yè)界主流大模型，為服務機器人等產(chǎn)業(yè)的智能化發(fā)展注入了強勁動力。展望未來，移遠將繼續(xù)攜手廣大合作伙伴，共同推動端側AI規(guī)模商用，為千行百業(yè)的智能化進程貢獻更多價值。
