 |
上海2026年7月20日 /美通社/ -- 面對端側AI大模型全面爆發的市場需求，如何幫助客戶高效落地并搶占AI先機，已成為行業的核心命題。
在WAIC 2026（世界人工智能大會）期間，移遠通信宣布其端側AI大模型解決方案迎來全面升級。本次升級聚焦"多模態感知"與"推理加速"兩大維度，為行業打通AI商業化落地"最后一公里"提供了全新思路。
移遠AI前沿技術中心總負責人王韜表示："當整個行業都在為參數突破而歡呼時，我們選擇了一條更務實的路——沉下心來，在端側大模型領域持續深耕。因為我們深知，技術的終極意義不在于跑分，而在于落地。我們甘愿做連接前沿技術與真實世界的'擺渡人'，聚焦醫療康養、情緒陪伴、智能家居等場景，沉淀出四大工程化能力——工作流設計、模型增強、邊緣部署與多硬件平臺支撐。"
從"聽見"到"看懂"的感知躍升
過去，基于"ASR+LLM+TTS"架構，設備獲得了出色的"聽覺"與"表達"能力。此次端側視覺大模型的加入，使移遠方案完成從"單維傾聽"到"全感官認知"的跨越。設備不僅能聽懂指令，更能"看懂場景、理解意圖、自主決策"，進化為全能智能體。
這一升級重塑了交互邏輯：設備從"聽聲辨位"進階為"眼見為實"，能精準識別環境中的物體與人員動作；從"機械問答"走向"情境共情"，結合視覺焦點與語音指令提供精準解答；從"被動響應"變為"主動干預"，即便無語音指令，也能自主發現環境異常（如安全隱患、老人跌倒等），并主動通過語音進行預警或采取干預措施。
作為"下一代多模態交互基座"，該方案可無縫嵌入各類智能終端，深度賦能千行百業：
1. 智能制造與工業巡檢
依托工業巡檢機器人等設備，無需繁瑣標注即可通過自然語言定制識別模型，輕松搞定高危環境下的缺陷檢測與流程管控。
2. 智能座艙與消費電子
賦能車載智能座艙、AI智能眼鏡等設備，實現全模態場景感知，提供主動式貼心服務，解放用戶雙手。
3. 智慧零售與門店運營
借助智能督導系統與智能導購終端，自動識別運營異常，精準推薦商品并協助消費者完成下單。
從"卡頓"到"絲滑"的體驗躍升
將大模型部署于終端設備，最大的痛點在于"慢"。受限于端側算力與內存帶寬，推理卡頓成為普遍難題。為此，移遠通信率先引入MTP（多Token預測）與SD（投機采樣）兩大加速技術。
MTP通過在訓練階段引入額外的預測頭，使模型能夠同時預測多個未來的詞元，提升數據效率并為推理加速奠定基礎；SD則采用"小模型快速生成草稿，大模型并行驗證"的機制，在保證輸出質量無損的前提下，顯著減少計算步數并加速生成。
日前，移遠端側大模型解決方案已全面支持MTP與SD加速，并成功落地客戶項目。
值得一提的是，該方案在高通技術團隊的深度協同下，完成了多平臺的嚴苛驗證與深度優化。在移遠內部實驗室基于高通躍龍Q-8750平臺（移遠SP895BD-AP模組）部署Qwen系列大模型的實測中，推理加速比達到2.0x，模型平均生成速度由傳統的25 tokens/s躍升至50+ tokens/s，在保持極低功耗的同時獲得了成倍的輸出收益。
推理能效的翻倍，直接轉化為客戶可感知的商業價值。簡單來說，就是同樣的芯片、同樣的模型，體驗直接躍升一個臺階；或者同等體驗下，硬件成本大幅降低。
從"聽懂"到"看懂"，再到推理速度的大幅提升，移遠正在完成一場從感知到認知的智能躍遷！這不只是技術的疊加，更是為終端設備注入真正的"靈魂"。憑借在端側大模型領域構筑的深厚工程化壁壘與實戰積淀，移遠已率先跨越了從技術探索到規模化落地的鴻溝。
未來，移遠將以領先的工程化能力為基石，攜手千行百業的合作伙伴，用高效的端側AI，共同定義和打造下一代終端產品！
WAIC 2026期間，歡迎蒞臨移遠通信展臺（ 展位號：H1-A1018 ），感受更多精彩！
關于移遠通信
上海移遠通信技術股份有限公司（股票代碼：603236）是全球領先的物聯網整體解決方案供應商，擁有完備的IoT產品和服務，涵蓋蜂窩模組(5G/4G/3G/2G/LPWA)、車載前裝模組、智能模組（5G/4G/邊緣計算）、短距離通信模組(Wi-Fi&BT)、GNSS定位模組、衛星通信模組、天線等硬件產品，以及AI解決方案、物聯網平臺、工業智能、智慧農業、認證與測試服務、RTK網絡校正方案等服務與解決方案。公司具備豐富的行業經驗，產品廣泛應用于智慧交通、智慧能源、金融支付、智慧城市、無線網關、智慧農業&環境監控、智慧工業、智慧生活&醫療健康、智能安全等領域。更多信息，敬請訪問移遠官網https://www.quectel.com.cn/，關注微信公眾號/視頻號"移遠通信"或發送郵件至marketing@quectel.com。
