近日,中國(guó)移動(dòng)旗下模組公司比鄰智聯(lián)(重慶)科技有限公司(以下簡(jiǎn)稱“比鄰智聯(lián)”),基于AI模組MS372Q,成功完成DeepSeek-R1蒸餾模型的本地部署。此舉不僅有效保障了數(shù)據(jù)隱私安全,還大幅提升了終端設(shè)備的推理與運(yùn)算效率。
作為支持億級(jí)參數(shù)大模型推理的硬件載體,MS372Q模組采用8核64位異構(gòu)架構(gòu)設(shè)計(jì),具備高達(dá)12TOPS的算力,支持Wi-Fi 6、藍(lán)牙5.2和GNSS定位,內(nèi)置安卓系統(tǒng),支持MIPI/USB/UART/SPI/I2C等多種接口,性能強(qiáng)大、多媒體功能豐富,能充分滿足低空經(jīng)濟(jì)、邊緣服務(wù)器、自動(dòng)駕駛及工業(yè)機(jī)器人等領(lǐng)域的嚴(yán)苛需求。實(shí)測(cè)顯示,搭載MS372Q模組的設(shè)備在運(yùn)行1.5B參數(shù)量級(jí)模型時(shí),Token生成速度可達(dá)15Tokens/s,展現(xiàn)強(qiáng)大的性能優(yōu)勢(shì)。
比鄰智聯(lián)AI模組廣泛應(yīng)用于標(biāo)準(zhǔn)化工業(yè)相機(jī)、工業(yè)機(jī)器人等設(shè)備。其依托機(jī)器視覺領(lǐng)域的感知和判決能力,能精準(zhǔn)識(shí)別并檢測(cè)出劃痕、污漬、破損等各類瑕疵,并可滿足礦山、井下、高海拔等無網(wǎng)絡(luò)環(huán)境下客戶終端對(duì)算力的需求。此外,比鄰智聯(lián)依托大模型的自然語言以及多模態(tài)的處理和理解能力,為客戶提供定制化服務(wù),助力企業(yè)高效生產(chǎn)與創(chuàng)新發(fā)展。
未來,比鄰智聯(lián)將持續(xù)深化端側(cè)AI戰(zhàn)略布局,推出更高算力的AI模組,為萬物智聯(lián)注入澎湃動(dòng)力,引領(lǐng)行業(yè)邁向全新的智能發(fā)展高度。