近年來，AI、5G、邊緣計算等技術(shù)概念在業(yè)界流行，那么這些技術(shù)之間是什么關(guān)系？它們將為業(yè)界帶來哪些變化？對這些業(yè)界在熱烈討論、還沒有定論的問題，本文將從AI的角度，分享一些觀點和思考，供大家探討。
對于AI、5G與邊緣的關(guān)系，簡單總結(jié)就是：5G帶來泛在接入，AI引領(lǐng)應(yīng)用革命，邊緣云是二者結(jié)合的最佳平臺。形象的說，就像下面這幅圖：5G是建成了高速公路建到了小區(qū)門口。邊緣計算就是把大商場搬到了高速邊，一出小區(qū)上高速，一下高速到商場，快速便捷，吞吐量大。而AI呢，就是一些高價值商品，吸引用戶使用高速去賣場。代刷網(wǎng)
受限于移動性和便攜性，終端算力始終與服務(wù)器相差很多倍，所以純端側(cè)方案有諸多限制；而受限于帶寬、時延和數(shù)據(jù)隱私等問題，純云上方案也有其局限性。邊緣云模式是一種很好的這種，而5G的關(guān)鍵能力“海量物聯(lián)網(wǎng)通信，增強(qiáng)的移動帶寬 和 高可靠低時延”與邊緣計算相互促進(jìn)。
所以 5G+邊緣+AI共同組建成了生態(tài)，互相促進(jìn) 。5G將開啟海量邊緣計算空間，并共同將AI能力推向客戶應(yīng)用，帶來AI業(yè)務(wù)的進(jìn)一步爆發(fā)。
那么，有哪些“莊稼”特別適合生長在這個生態(tài)中呢？華為5G白皮書列舉了以下業(yè)務(wù)場景。本文將從邊緣AI的角度，對幾個典型場景進(jìn)行簡要分析。
流式業(yè)務(wù)包括XR、云游戲、互動直播等。高畫質(zhì) 、大場景、更逼真的光照效果是行業(yè)趨勢，由于端側(cè)算力、訂閱模式等各方面原因，業(yè)務(wù)云化成為一種業(yè)界趨勢。而帶寬與時延成多媒體業(yè)務(wù)上云最大挑戰(zhàn)。5G條件下，流式業(yè)務(wù)的帶寬占用優(yōu)化對用戶體驗和運營成本仍有很大意義。端邊云協(xié)同模式平衡了時延、算力和成本，成為業(yè)界技術(shù)方向。
該領(lǐng)域是 邊緣AI密集的領(lǐng)域 ，AI廣泛用優(yōu)化建模、AR/VR傳輸顯示、物體識別與追蹤、動作捕捉、畫質(zhì)增強(qiáng)去噪、轉(zhuǎn)碼、流分發(fā)和調(diào)度等各個環(huán)節(jié)。
智能制造
《工業(yè)互聯(lián)網(wǎng)平臺白皮書2019 》將邊緣計算、信息模型、實時決策等列為工業(yè)互聯(lián)網(wǎng)平臺關(guān)鍵技術(shù)，工業(yè)門類多，大多是成熟產(chǎn)業(yè)，門檻高，涉及專業(yè)知識多。同時，隨著流程復(fù)雜化、動態(tài)化，很多工業(yè)門類引入數(shù)字化技術(shù)，變得越來越“數(shù)字化智能化”。
AI技術(shù)廣泛用于智能制造產(chǎn)業(yè)的諸多環(huán)節(jié)。但是制造業(yè)門類多，門檻高，可靠性要求高，邊緣AI面臨著諸多挑戰(zhàn)如下表。
Challenges
Problems
數(shù)據(jù)獲取與清洗
數(shù)據(jù)來源多, 格式不統(tǒng)一 ；
數(shù)據(jù)經(jīng)常缺失, 質(zhì)量參差不齊；
缺乏標(biāo)記；
正負(fù)樣本數(shù)量嚴(yán)重不平衡，某類樣本量極少或缺失；
模型選擇, 冷啟動
需要人工反復(fù)多次進(jìn)行分析調(diào)優(yōu)流程:： 樣本數(shù)據(jù)人工分析->人工構(gòu)造模型->上線試用->人工調(diào)優(yōu)：
場景-技術(shù)匹配問題：工業(yè)場景下問題多樣, 采用的ML技術(shù)各異, 需要大量的專家經(jīng)驗介入；
冷啟動：開始時數(shù)據(jù)樣本小，導(dǎo)致初始模型選擇不合適 或 參數(shù)配置不好，需要反復(fù)優(yōu)化。因為樣本量不足，優(yōu)化可能會持續(xù)很長時間；
結(jié)果可解釋性、可靠性
工業(yè)場景下, 錯誤的決策會導(dǎo)致嚴(yán)重后果, 因此要求:
結(jié)果的可解釋性；
結(jié)果的可靠性。比如質(zhì)檢場景，寧可降低模型精度也要提高recall， 保證沒有殘次品流出；
結(jié) 果及其影響的可視化；
數(shù)據(jù)隱私問題
數(shù)據(jù)是企業(yè)核心機(jī)密，工廠企業(yè)不愿意共享或集中存放，如何獲得提取知識，獲得高質(zhì)量AI模型。
實時性與同步要求
工業(yè)控制場景對模型推理有實時/近實時要求。分布在多個邊緣應(yīng)用之間，有嚴(yán)苛的時間同步要求。
V2X
智能交通正從單一場景交通管理向融合場景交通服務(wù)發(fā)展，V2X場景能幫助智能駕駛更安全、更高效、更經(jīng)濟(jì)、更便捷，例如限速預(yù)警、惡劣天氣預(yù)警、并道提示、路口調(diào)度等。
V2X關(guān)鍵技術(shù)包括感知、高清制圖和定位，高算力需求、高移動性、高可靠性和實時性帶來了主要的技術(shù)挑戰(zhàn)。
關(guān)鍵技術(shù)
描述
技術(shù)挑戰(zhàn)
感知Perception
感知車輛周邊環(huán)境, 檢測、跟蹤周邊目標(biāo)和行人，識別車道。
·車輛高移動性，傳統(tǒng)車載感知范圍有限，不能滿足需求;
·高算力需求，車載計算單元不能滿足;
·實時性要求
高清制圖HD Mapping
道路 3D 高清地圖的建立與更新
·構(gòu)建更新地圖帶來高強(qiáng)度密集計算；
·存儲地圖導(dǎo)致高存儲空間；
·分發(fā)地圖導(dǎo)致高通信負(fù)載；
定位SLAM
實時估計車輛和地圖上建筑的位置關(guān)系
·高算力需求；
·實時性需求；
智能電網(wǎng)
電網(wǎng)的業(yè)務(wù)面臨著新能源、新用戶和新要求，如具有間歇性隨機(jī)性特點的風(fēng)能、太陽能電源；如新能源綠電，期望從傳統(tǒng)設(shè)備接通充電變成時間可選的互動充電；如電量現(xiàn)貨交易、企業(yè)要求供電零中斷，等。這些業(yè)務(wù)挑戰(zhàn)促使電網(wǎng)從層次架構(gòu)單向流動的傳統(tǒng)電網(wǎng)向網(wǎng)狀雙向流動的智能電網(wǎng)演進(jìn)。AIoT+5G+邊緣技術(shù)被引入智能電網(wǎng)升級架構(gòu)，在發(fā)電、輸變電、配電、用電4個環(huán)節(jié)來看，關(guān)注用電安全和效率，時延、可靠性是對邊緣AI業(yè)務(wù)的主要挑戰(zhàn)。
環(huán)節(jié)
關(guān)注點
AI相關(guān)技術(shù)
發(fā)電
監(jiān)控發(fā)電量
控制污染排放
預(yù)測用電量
用電需求預(yù)測
故障檢測
分布式發(fā)電系統(tǒng)/微電網(wǎng)的孤島檢測
風(fēng)電：風(fēng)力電量預(yù)測、風(fēng)速預(yù)測、電廠調(diào)度
光伏：光伏發(fā)電的最大功率點(MPPT)跟蹤、光伏發(fā)電量預(yù)測(考慮天氣）
輸變電
監(jiān)控輸電線和變電站
保護(hù)鐵塔
視頻巡檢
故障檢測
配電
自動化配電
設(shè)備管理和保護(hù)
故障檢測
故障預(yù)測與及時響應(yīng)(80%故障來自配電網(wǎng))
電力調(diào)度
用電
智慧家庭用電
電動汽車智能充放電
功率負(fù)載控制
評估瞬時穩(wěn)定性
分析瞬時穩(wěn)定性
用戶用電量畫像和模式分析
邊緣AI的關(guān)鍵技術(shù)挑戰(zhàn)
以上幾個行業(yè)對邊緣AI能力的關(guān)注點有重合也有不同，大致上，可以分為2類：
AR、VR、互動直播、視頻監(jiān)控等場景下非結(jié)構(gòu)化數(shù)據(jù)為主, 主要采用深度學(xué)習(xí)方法. 主要挑戰(zhàn)在數(shù)據(jù)量大, 資源用量大, 實時要求高, 標(biāo)注困難等。
工業(yè)場景下IoT結(jié)構(gòu)化數(shù)據(jù)為主, 主要使用傳統(tǒng)機(jī)器學(xué)習(xí)算法, 方法多樣, 與業(yè)務(wù)相關(guān)性高. 主要挑戰(zhàn)是樣本少、冷啟動和要求模型可解釋和可靠性。
面對上述問題，一些邊緣AI技術(shù)方向值得關(guān)注。
邊側(cè)數(shù)據(jù)管理技術(shù)
Garbage in，Garbage Out，數(shù)據(jù)管理是AI的第一步，也是成本最高、可能最重要的一步。數(shù)據(jù)管理是為了解決數(shù)據(jù)來源異構(gòu)、樣本缺失、標(biāo)注缺失、數(shù)據(jù)集質(zhì)量評估等問題。由于邊緣的地理分布式本質(zhì)，邊緣數(shù)據(jù)集分散在各個邊緣，與云上的數(shù)據(jù)集中管理有很大不同。這個領(lǐng)域技術(shù)包括：數(shù)據(jù)的自動格式轉(zhuǎn)換、清洗；基于主動學(xué)習(xí)的自動標(biāo)注；數(shù)據(jù)集質(zhì)量評估；特征自動發(fā)現(xiàn)等等。
端邊云協(xié)同訓(xùn)練
傳統(tǒng)分布式學(xué)習(xí)前提假設(shè)仍然是在中心集群，而且假設(shè)數(shù)據(jù)是集中的，然后由中心服務(wù)器分配到工作節(jié)點。沒有考慮邊緣計算引入的數(shù)據(jù)隱私、節(jié)點動態(tài)性、資源異構(gòu)、不穩(wěn)定網(wǎng)絡(luò)等因素。另外，單個邊緣的樣本數(shù)量通常有限，獨立訓(xùn)練不能得到很好效果，因此近兩年興起的聯(lián)邦學(xué)習(xí)(Federated Learning)和遷移學(xué)習(xí)(Federated Learning)，可以很好的應(yīng)用于邊云協(xié)同場景。
聯(lián)邦學(xué)習(xí)(Federated Learning ) ：允許原始數(shù)據(jù)不出邊緣，保護(hù)隱私和安全。邊緣節(jié)點進(jìn)行本地訓(xùn)練，模型參數(shù)上云聚合。支持非獨立同分布（ Non-IID ）數(shù)據(jù)集；能減少通信量；允許邊緣設(shè)備的算力和數(shù)據(jù)集大小不同。
遷移學(xué)習(xí)（Transfer Learning-based Training） ：傳統(tǒng)的機(jī)器學(xué)習(xí)方法通常局限于解決單一領(lǐng)域內(nèi)的問題, 要求訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)都服從相同的分布（獨立同分布IID假設(shè)）. 但在實際邊緣場景中, 不同邊緣場景不同，通常不滿足IID假設(shè)，因此邊邊、邊云之間的自動遷移學(xué)習(xí)變得很有必要。
端邊云協(xié)同推理
傳統(tǒng)機(jī)器學(xué)習(xí)推理，通常假設(shè)推理發(fā)生在單一設(shè)備（云或邊或端）上。問題在于，對于端邊設(shè)備，算力相對較小，資源受限，大模型跑不了，準(zhǔn)確度有限，對于移動設(shè)備還要考慮功率續(xù)航；云側(cè)算力夠了，但是時延太大，數(shù)據(jù)隱私也有顧慮。因此，近年一些端邊云協(xié)同的分布式推理模式被提出：
網(wǎng)絡(luò)切割（Segmentation of DL Models ） ：將DL模型在云、邊、端間進(jìn)行切分，協(xié)同推理，平衡計算資源、網(wǎng)絡(luò)時延、設(shè)備能耗和數(shù)據(jù)隱私等條件。
早退網(wǎng)絡(luò)（Early Exit of Inference，EEoI） ：有時被稱為“多出口網(wǎng)絡(luò)”。與網(wǎng)絡(luò)切割類似， 也會將DL模型在云邊端間切分，協(xié)同推理，不同點在于DL模型有多個出口，能夠直接在端或邊退出，給出推理結(jié)果。
模型資源優(yōu)化
由于端邊的資源有限，對于模型，特別是深度模型的壓縮和優(yōu)化變得更重要。這也是業(yè)界的重要研究方向，一方面設(shè)計研發(fā)專用的神經(jīng)網(wǎng)絡(luò)芯片加速模型推理，另一方面提出量化、剪枝、蒸餾等“軟”技術(shù)。
一方面用戶擔(dān)心數(shù)據(jù)隱私，不愿意將數(shù)據(jù)傳出邊緣節(jié)點。通常是在邊側(cè)對數(shù)據(jù)進(jìn)行基于AI的敏感數(shù)據(jù)識別和脫敏預(yù)處理；第2類技術(shù)是多方計算MPC，允許在數(shù)據(jù)不傳送出邊緣的情況下，進(jìn)行某些數(shù)據(jù)的統(tǒng)計和處理；第3種是同態(tài)加密，在邊緣對數(shù)據(jù)進(jìn)行加密后，在云上對加密數(shù)據(jù)直接進(jìn)行同態(tài)運算，計算結(jié)果在邊緣進(jìn)行解密。
另一方面，公有云提供商部署AI應(yīng)用到邊緣時，擔(dān)心IP被不當(dāng)使用，除了傳統(tǒng)的應(yīng)用license機(jī)制，近來流行的研究技術(shù)還包括模型水印，或者將AI應(yīng)用運行到可信執(zhí)行環(huán)境（TEE）中。
邊緣AI領(lǐng)域是個新興的方向，以上只列出了部分行業(yè)和部分關(guān)鍵技術(shù)，并非全部。例如行業(yè)上，聯(lián)網(wǎng)無人機(jī)、移動醫(yī)療等場景也是很與5G&邊緣&AI結(jié)合緊密的未來行業(yè)；從技術(shù)上，隨著業(yè)界研究的深入，將有更多技術(shù)涌現(xiàn)。本文主旨是分享關(guān)于邊緣AI的一些個人觀點，拋磚引玉，與大家共同討論。
聯(lián)系客服
