本文圖片來(lái)源 :Beyond Limits
作者 | Ari Kamlani
混合人工智能(AI)是數(shù)據(jù)驅(qū)動(dòng)機(jī)器智能方法的配套技術(shù),可以促進(jìn)邊緣計(jì)算的發(fā)展。
諸多行業(yè)都在開(kāi)發(fā)和部署人工智能(AI)。它使許多公司能夠利用新的機(jī)會(huì),創(chuàng)造新的商業(yè)模式并獲得競(jìng)爭(zhēng)優(yōu)勢(shì)。在工業(yè)、能源、國(guó)防、醫(yī)療保健和金融行業(yè),AI正在成為企業(yè)在各自領(lǐng)域內(nèi)有效競(jìng)爭(zhēng)能力的核心差異化價(jià)值驅(qū)動(dòng)因素。
以物聯(lián)網(wǎng)(IoT)為例。相關(guān)預(yù)測(cè)顯示,到2025年物聯(lián)網(wǎng)連接的設(shè)備將超過(guò)750億臺(tái),比2019年增長(zhǎng)近三倍。這一數(shù)字還在繼續(xù)呈現(xiàn)指數(shù)級(jí)的增長(zhǎng),將所有這些設(shè)備與智能功能連接起來(lái),是實(shí)現(xiàn)其全部物聯(lián)網(wǎng)潛力的最大挑戰(zhàn)之一。
隨著設(shè)備和系統(tǒng)的技術(shù)能力的不斷成熟,在物理世界中,幾乎所有物體都有連接性和計(jì)算能力,不管這些能力是生俱來(lái)的還是經(jīng)改造后獲得的。用戶的期望值也在不斷增長(zhǎng)。用戶對(duì)體驗(yàn)和交互的要求更高,希望獲得類似于智能手機(jī)和筆記本電腦的用戶友好體驗(yàn)。機(jī)器學(xué)習(xí)用戶體驗(yàn)MLUX(ML+UX)需要精心設(shè)計(jì),以最小的代價(jià)獲得積極、有影響力、情境和整體的用戶體驗(yàn),以進(jìn)一步擴(kuò)大和提升對(duì)該技術(shù)的采用。
01
邊緣計(jì)算系統(tǒng)正在不斷發(fā)展
邊緣系統(tǒng)的設(shè)計(jì),具有不同且通常有限的計(jì)算機(jī)處理、存儲(chǔ)和內(nèi)存、網(wǎng)絡(luò)連接和運(yùn)行等諸多限制。邊緣范式轉(zhuǎn)移到數(shù)據(jù)被感知、生成和執(zhí)行的地方進(jìn)行本地處理;盡管在某些情況下,它有點(diǎn)類似于云功能,可以通過(guò)邊緣網(wǎng)關(guān)進(jìn)一步擴(kuò)展,以提供低延遲和高帶寬利用率。
在整個(gè)范圍中,硬件系列可以涵蓋從資源受限的超低功耗裸機(jī)設(shè)備、RTOS微控制器(例如,ARM Cortex-M)到SoC應(yīng)用微處理器(例如,ARM Cortex-A)配置文件功能。原始設(shè)計(jì)制造商/原始設(shè)備制造商(ODM/OEM)許可的應(yīng)用程序配置文件目標(biāo),通常出現(xiàn)在智能手機(jī)和平板電腦中,或連接到外部的微控制器、傳感器和驅(qū)動(dòng)器或基帶處理器的應(yīng)用處理器中。
在此范圍內(nèi),先進(jìn)的專用AI加速器ASIC設(shè)備已被設(shè)計(jì)為處理高性能的AI操作指令和支持最先進(jìn)的模型(SOTA)。盡管硅的應(yīng)用落后于AI研究,但它帶來(lái)的好處是性能提高,這間接地與最終用戶的體驗(yàn)聯(lián)系在一起。
在生命周期開(kāi)始之前,許多SoTA AI模型都需要進(jìn)一步優(yōu)化和壓縮,而不會(huì)降低目標(biāo)性能。隨著該領(lǐng)域的發(fā)展,將模型部署到嵌入式設(shè)備已轉(zhuǎn)向嵌入式系統(tǒng)范式,即在目標(biāo)主機(jī)上交叉編譯代碼。
用戶可以通過(guò)中間格式(MLIR)和Runtime執(zhí)行環(huán)境來(lái)編譯和優(yōu)化處理器目標(biāo)和設(shè)備執(zhí)行,而不是部署較小的參數(shù)化抽象模型,以換取目標(biāo)性能。這也與提供更低的延遲和改善的用戶體驗(yàn)有關(guān)。
在運(yùn)營(yíng)過(guò)程中,AI邊緣系統(tǒng)需要具有一定程度的獨(dú)立性,盡管具有局限性,但仍能做出高性能的決策,直到它們能夠利用更強(qiáng)大的資源以及來(lái)自所連接的云基礎(chǔ)設(shè)施的大量數(shù)據(jù)和知識(shí)。對(duì)于互連的設(shè)備,這種獨(dú)立狀態(tài)被稱為緊急模式。
02
使用混合AI改善邊緣計(jì)算
使用混合AI(Hybrid AI)是推進(jìn)邊緣AI的潛在途徑?;旌螦I是一種將機(jī)器學(xué)習(xí)與符號(hào)AI(Symbolic AI)相結(jié)合的方法,前者使用統(tǒng)計(jì)模型來(lái)分析數(shù)據(jù),后者基于語(yǔ)義并提供對(duì)意義的見(jiàn)解。通過(guò)利用每種技術(shù)的優(yōu)勢(shì),可以實(shí)現(xiàn)比單獨(dú)使用任何一種技術(shù)更強(qiáng)大的結(jié)果。
混合AI作為數(shù)據(jù)驅(qū)動(dòng)機(jī)器智能方法的配套技術(shù),補(bǔ)充了認(rèn)知符號(hào)AI能力,克服了推理、順序規(guī)劃、可操作反饋以及類似人類的可理解闡述和解釋方面的限制。核心關(guān)注點(diǎn)是與用戶的協(xié)作互動(dòng),充當(dāng)情境決策支持顧問(wèn)和診斷系統(tǒng),尤其是在與高風(fēng)險(xiǎn)、不確定性和未知相關(guān)的情況下更是如此。例如,NASA JPL為火星探測(cè)器著陸開(kāi)發(fā)了混合AI,增加了推理智能功能,以改善在不熟悉和傳統(tǒng)技術(shù)難以實(shí)現(xiàn)的困難地形下的導(dǎo)航。
利用混合AI,可以通過(guò)編碼的人類專家知識(shí)和約束、行業(yè)指南和最佳實(shí)踐以及傳統(tǒng)的支持歷史庫(kù)和流式事件信息來(lái)豐富系統(tǒng)。這些認(rèn)知引擎和算法對(duì)假設(shè)的路徑和場(chǎng)景進(jìn)行建模,以提出行動(dòng)方案并制定智能的近實(shí)時(shí)決策,即使在那些在操作、獲取和訪問(wèn)質(zhì)量數(shù)據(jù)方面被認(rèn)為不太理想的邊緣環(huán)境下也是能完成任務(wù)。
考慮連接受限或不穩(wěn)定的邊緣設(shè)備的使用工況,這些設(shè)備在惡劣或遠(yuǎn)程環(huán)境中運(yùn)行,具有長(zhǎng)尾數(shù)據(jù)分布,數(shù)據(jù)采集和存儲(chǔ)受到限制。或者,當(dāng)設(shè)備故障,傳感器融合和機(jī)動(dòng)高風(fēng)險(xiǎn)錯(cuò)誤條件路徑的時(shí)間周期內(nèi),發(fā)生數(shù)據(jù)沖突時(shí)所導(dǎo)致的不理想路徑。這些案例都是傳統(tǒng)大數(shù)據(jù)和微調(diào)方法不太適合的?;旌螦I可以直接將這些條件,作為推薦行動(dòng)計(jì)劃和用戶反饋回路的一部分,或利用知識(shí)和約束的基礎(chǔ)模型進(jìn)行校正,間接地促成這些條件。
在IoT和其它在邊緣運(yùn)行的系統(tǒng)中使用混合AI,為連接、用戶體驗(yàn)和運(yùn)營(yíng)決策帶來(lái)了新的潛力。AI未來(lái)的愿景,包括能在網(wǎng)絡(luò)邊緣和更大的生態(tài)系統(tǒng)和價(jià)值鏈之外,實(shí)現(xiàn)傳統(tǒng)機(jī)器學(xué)習(xí)系統(tǒng)無(wú)法完成的任務(wù)的認(rèn)知系統(tǒng):智能和流暢地與人類專家互動(dòng),提供清晰可行的解釋,并增強(qiáng)用戶對(duì)決策的信任和信心。
關(guān)鍵概念:
■ 作為數(shù)據(jù)驅(qū)動(dòng)機(jī)器智能方法的配套技術(shù),混合AI可以改善邊緣計(jì)算。
■ 在IoT和其它在邊緣運(yùn)行的系統(tǒng)中使用混合AI,為連接、用戶體驗(yàn)和運(yùn)營(yíng)決策帶來(lái)了新的潛力。
思考一下:
AI和邊緣計(jì)算可以為您的應(yīng)用帶來(lái)哪些潛在好處?
聯(lián)系客服