邊緣計(jì)算行業(yè)專題報(bào)告：始于AI，賦能應(yīng)用.pdf

邊緣計(jì)算行業(yè)專題報(bào)告：始于AI，賦能應(yīng)用。邊緣側(cè)是 AI 生態(tài)中最重要的組成部分之一。AI 飛輪發(fā)展?jié)L滾向前，從今年初 GPT- 3.5 驚艷世界，到 5 月 14 日 OpenAI 正式開啟插件功能，我們見證了云端大模型 的快速迭代與演化。當(dāng)前時(shí)點(diǎn)，AI 大模型已經(jīng)站在了從“玩具”向“工具”快速 演化的關(guān)鍵迭代期。如何讓大模型滲透進(jìn)入各類垂直場(chǎng)景，如何更低成本的使用 大模型，如何讓更多場(chǎng)景與用戶接觸 AI，成為了發(fā)展的下一個(gè)重點(diǎn)。在 AI 向?qū)嶋H 場(chǎng)景落地時(shí)，邊緣算力的重要性加速凸顯，邊緣算力在成本、時(shí)延、隱私上具有 天然優(yōu)勢(shì)，也可以作為橋梁，預(yù)處理海量復(fù)雜需求，并將其導(dǎo)向大模型。邊緣算 力作為 AI 觸及萬千場(chǎng)景的血管地位加速明晰。之前，邊緣側(cè)設(shè)備以部署通信能力 為主，當(dāng)下，在以高通為代表的邊緣巨頭推動(dòng)下，算力、AI 能力等邊緣基建正在 加速推動(dòng)，同時(shí)三大運(yùn)營(yíng)商的算力網(wǎng)絡(luò)與邊緣資源池體系，也為我國(guó)算力梯度分 布奠定了雛形。展望未來，邊緣算力將始于 AI 帶來的需求提升，同時(shí)也將賦能應(yīng) 用，連接更多用戶，加速 AI 發(fā)展與迭代。

邊緣算力的三大優(yōu)勢(shì)。邊緣算力，通常指部署在設(shè)備本地的算力或者離用戶距離 較近的數(shù)據(jù)中心中的算力。邊緣算力相較于云端算力，擁有低成本、低時(shí)延、高 隱私三大特性。（1）低成本：當(dāng)前主流的邊緣算力平臺(tái)主要采用高通主導(dǎo)下的 ARM 架構(gòu)，相比于英偉達(dá)的復(fù)雜架構(gòu)，ARM 架構(gòu)在小算力時(shí)擁有極低的單位成本，是 降低開發(fā)與用戶成本的必然選擇。（2）低時(shí)延：邊緣算力一般搭載在本地，無需 將數(shù)據(jù)發(fā)送至云端并等待回傳的時(shí)間，可以滿足如自動(dòng)駕駛，快速對(duì)話等對(duì)時(shí)延 要求高的場(chǎng)景。（3）高隱私：邊緣算力依靠設(shè)備本身搭載的算力或在用戶自有服 務(wù)器上的算力進(jìn)行推理，可以實(shí)現(xiàn)數(shù)據(jù)不出用戶管轄范圍，對(duì)隱私的保護(hù)更好。

邊緣算力的存在形式。當(dāng)下邊緣算力主要有兩種存在模式，一種是設(shè)備本身搭載 的算力，這類算力通常依托邊緣處理芯片存在，邊緣處理芯片包括了手機(jī)終端上 的驍龍與蘋果 M 平臺(tái)，面向 IOT 設(shè)備的如高通 8155 芯片或者專為 AI 優(yōu)化的 QCM8550 芯片。通常，大單品采用直采芯片+定制 PCB 的形式進(jìn)行開發(fā)，而中小 廠商與細(xì)分垂直領(lǐng)域往往采購模組來滿足算力需求。第二種算力存在形式是邊緣 資源池，通常由離用戶較近的核心城市內(nèi)的數(shù)據(jù)中心構(gòu)成，或者由廠區(qū)，道路旁 的小機(jī)柜、算力盒子提供算力。

邊緣算力賦能萬千應(yīng)用。在生成式 AI 爆發(fā)前，邊緣算力已經(jīng)逐漸滲透進(jìn)了部分商 用場(chǎng)景，如手機(jī)云游戲、無人設(shè)備駕駛、自動(dòng)視頻識(shí)別等。如今隨著 MLC-LLM， 谷歌模型體系等軟件基建加速，特斯拉機(jī)器人為具身智能完成物理基建，在終端 設(shè)備上推理生成式模型，甚至讓智能設(shè)備同物理世界自主交互的條件已經(jīng)具備， 未來，隨著應(yīng)用加速滲透、預(yù)處理模型需求爆發(fā)，以及邊緣小模型推理，智能設(shè) 備物理交互需求爆發(fā)。

“云—邊”一體，共筑 AI 飛輪模型。“云—邊”一體指云計(jì)算和邊緣計(jì)算的有機(jī) 結(jié)合。此前市場(chǎng)擔(dān)心小模型對(duì)算力需求下降，但我們卻認(rèn)為這正是 AI 應(yīng)用閉環(huán)的 必由之路。類似于交通網(wǎng)絡(luò)，光有干線是不夠的，還需要無數(shù)省道、鄉(xiāng)村小路通 往千家萬戶，匯聚而來的流量才能驅(qū)動(dòng)干線不斷升級(jí)。邊緣側(cè)需求的釋放將開啟 “真 AIOT”時(shí)代，或許這才能開啟 5G 當(dāng)初所提萬物互聯(lián)、算網(wǎng)一體的黃金時(shí)代。