邊緣計(jì)算可以為物聯(lián)網(wǎng)網(wǎng)絡(luò)增加大量的靈活性、速度和智能,但重要的是要了解邊緣人工智能設(shè)備并不能解決智能網(wǎng)絡(luò)應(yīng)用面臨的所有挑戰(zhàn)。在本文的最后,在確定邊緣技術(shù)是否適合應(yīng)用之后,我們將討論買家在評估邊緣人工智能設(shè)備時(shí)應(yīng)該考慮的主要特性和考慮因素。
什么是邊緣計(jì)算
邊緣計(jì)算在云的邊緣將物聯(lián)網(wǎng)提升到一個(gè)更高的層次,原始數(shù)據(jù)可以實(shí)時(shí)轉(zhuǎn)化為價(jià)值。通過在整個(gè)網(wǎng)絡(luò)中重新分配數(shù)據(jù)處理工作,提升了連接節(jié)點(diǎn)、端點(diǎn)和其他智能設(shè)備的重要性和治理。
邊緣計(jì)算幾乎與云計(jì)算完全相反,在云計(jì)算中,數(shù)據(jù)從分布式網(wǎng)絡(luò)流入,在集中的數(shù)據(jù)中心進(jìn)行處理,結(jié)果通常被傳輸回原始的分布式網(wǎng)絡(luò),以觸發(fā)動作或產(chǎn)生變化。然而,長距離傳輸大量數(shù)據(jù)會產(chǎn)生成本的。這些成本可以用金錢來衡量,但也可以用其他關(guān)鍵的方式來衡量,比如用權(quán)力或時(shí)間。
這就是邊緣計(jì)算的切入點(diǎn)。當(dāng)功率、帶寬和延遲真的很重要時(shí),邊緣計(jì)算可能是答案。與集中式云計(jì)算不同的是,在中心化云計(jì)算中,數(shù)據(jù)可能要穿越數(shù)百英里才能被處理,邊緣計(jì)算使數(shù)據(jù)能夠在數(shù)據(jù)被感知、創(chuàng)建或駐留的同一網(wǎng)絡(luò)邊緣位置處理。這意味著處理延遲幾乎可以忽略不計(jì),對功率和帶寬的要求通常也大大降低。
當(dāng)今邊緣計(jì)算的主要推動者之一是半導(dǎo)體制造商在不大幅增加功耗的情況下提高處理能力的方式。這意味著位于邊緣的處理器可以在不消耗更多功率的情況下利用它們獲取的數(shù)據(jù)做更多事情。這允許更多的數(shù)據(jù)停留在邊緣,而不是被傳輸?shù)胶诵摹3私档拖到y(tǒng)總功率外,這還增加了響應(yīng)時(shí)間并改善了數(shù)據(jù)隱私。
受益于這一發(fā)展的一些技術(shù)包括人工智能和機(jī)器學(xué)習(xí),但這些也依賴于降低數(shù)據(jù)獲取成本,同時(shí)提高數(shù)據(jù)隱私級別。通過邊緣處理可以同時(shí)解決成本和隱私問題。就AI和ML等新興趨勢而言,這兩種技術(shù)傳統(tǒng)上都需要大量資源,遠(yuǎn)遠(yuǎn)超過端點(diǎn)或智能設(shè)備中通??捎玫馁Y源。現(xiàn)在,由于硬件和軟件水平的進(jìn)步,還可以將這些支持技術(shù)嵌入到位于網(wǎng)絡(luò)邊緣的更小、資源更有限的設(shè)備中。
評估邊緣人工智能
選擇能夠執(zhí)行邊緣處理的平臺,可能包括運(yùn)行AI算法或ML推理引擎,這需要仔細(xì)評估。簡單的傳感器和執(zhí)行器,即使是屬于物聯(lián)網(wǎng)的一部分,也可以通過相對較小的集成設(shè)備實(shí)現(xiàn)。增加邊緣處理的數(shù)量將需要一個(gè)更強(qiáng)大的平臺,可能使用高度并行的架構(gòu)。通常情況下,這意味著GPU,但如果平臺太強(qiáng)大,它將成為網(wǎng)絡(luò)邊緣有限資源的負(fù)擔(dān)。
同樣重要的是要記住,邊緣設(shè)備基本上是現(xiàn)實(shí)世界的接口,因此它可能需要支持一些常見的接口技術(shù),如以太網(wǎng),GPIO,CAN、串行和/或USB)。它也可能需要支持外圍設(shè)備,如攝像頭、鍵盤和顯示器。
邊緣也可以是與舒適的氣候控制數(shù)據(jù)中心截然不同的環(huán)境。邊緣設(shè)備可能暴露在極端的溫度,濕度,振動甚至高度。這將對設(shè)備的選擇產(chǎn)生影響,以及如何包裝或封裝。
另一個(gè)需要考慮的重要方面是監(jiān)管要求。任何使用射頻進(jìn)行通信的設(shè)備都將受到法規(guī)的約束,并可能需要許可證才能運(yùn)行。一些平臺將“開箱即用”遵守規(guī)定,但其他平臺可能需要付出更多努力。一旦投入使用,它們就不太可能得到硬件升級,因此必須在設(shè)計(jì)周期內(nèi)仔細(xì)確定處理能力、內(nèi)存和存儲,以便為未來的性能提升提供空間。
這包括軟件升級。與硬件不同的是,可以在設(shè)備在現(xiàn)場時(shí)部署軟件更新。這些無線更新現(xiàn)在非常常見,很可能任何邊緣設(shè)備都需要設(shè)計(jì)為支持OTA更新。
選擇正確的解決方案將涉及對所有這些一般點(diǎn)的仔細(xì)評估,以及仔細(xì)研究應(yīng)用程序的特定需求。比如設(shè)備是否需要處理視頻數(shù)據(jù),或者音頻數(shù)據(jù),亦或者只處理溫度,還是也監(jiān)測其他環(huán)境方面。這些問題中的許多適用于部署在前沿的所有技術(shù),但隨著加工水平的提高和對產(chǎn)出的期望的提高,將有必要擴(kuò)大要求列表。
邊緣計(jì)算的好處
現(xiàn)在,將AI和ML放入邊緣設(shè)備和智能節(jié)點(diǎn)中在技術(shù)上是可能的,這將帶來重大的機(jī)遇。這意味著處理引擎不僅更接近數(shù)據(jù)源,而且該引擎可以對它收集的數(shù)據(jù)做更多的事情。
這樣做確實(shí)有好處。首先,它可以提高生產(chǎn)力,或數(shù)據(jù)使用的效率。其次,它簡化了網(wǎng)絡(luò)架構(gòu),因?yàn)橐苿拥臄?shù)據(jù)更少。第三,它使接近數(shù)據(jù)中心變得不那么重要。如果數(shù)據(jù)中心在城市中,那么最后一點(diǎn)可能看起來不太重要,但是如果網(wǎng)絡(luò)的邊緣是一個(gè)偏遠(yuǎn)的位置,比如農(nóng)場或水處理廠,那么這一點(diǎn)就會有很大的不同。
不可否認(rèn)的是,數(shù)據(jù)在互聯(lián)網(wǎng)上快速移動。許多人可能會驚訝地發(fā)現(xiàn),搜索查詢可能會在結(jié)果出現(xiàn)在屏幕上之前在全球范圍內(nèi)傳播兩次??偨?jīng)過的時(shí)間可能只有幾分之一秒,而對我們來說,這幾乎是瞬間的。但對于組成互聯(lián)、智能且通常是自主的傳感器和執(zhí)行器的互聯(lián)網(wǎng)的機(jī)器和其他智能設(shè)備來說,每一秒都感覺像是一個(gè)小時(shí)。
這種往返延遲是實(shí)時(shí)系統(tǒng)的制造商和開發(fā)人員真正關(guān)心的問題。數(shù)據(jù)往返于數(shù)據(jù)中心所花費(fèi)的時(shí)間并非無關(guān)緊要,當(dāng)然也不是瞬間的。減少這種延遲是邊緣計(jì)算的一個(gè)關(guān)鍵目標(biāo)。它與更快的網(wǎng)絡(luò)協(xié)同工作,這是5G發(fā)揮作用的地方。但是,隨著更多的設(shè)備上線,推出更快的網(wǎng)絡(luò)將無法彌補(bǔ)我們預(yù)期的累積網(wǎng)絡(luò)延遲。
分析人士預(yù)測,到2030年,聯(lián)網(wǎng)設(shè)備的數(shù)量可能會達(dá)到500億臺。如果這些設(shè)備中的每一個(gè)都需要一個(gè)數(shù)據(jù)中心的寬頻帶,那么網(wǎng)絡(luò)將永遠(yuǎn)擁塞。如果它們中的許多在管道中運(yùn)行,等待上一階段的數(shù)據(jù)到達(dá),那么總延遲很快就會變得非常明顯。邊緣計(jì)算是緩解擁塞網(wǎng)絡(luò)的唯一可行的解決方案。
然而,雖然總體上對邊緣計(jì)算有一定的需求,但邊緣計(jì)算的具體好處仍然在很大程度上取決于應(yīng)用,這就是邊緣計(jì)算法則的應(yīng)用。這些定律將幫助工程團(tuán)隊(duì)決定邊緣計(jì)算是否適合特定應(yīng)用。
邊緣計(jì)算的4大定律
物理定律
第一定律是物理定律,這個(gè)是不可變的。射頻能量以光速傳播,就像光纖網(wǎng)絡(luò)中的光子一樣。這是好消息。壞消息是它們不能再快了。因此,如果往返時(shí)間仍然不夠快,那么邊緣計(jì)算可能是正確的選擇。
Ping測試提供了一種簡單的方法,可以測量數(shù)據(jù)包在網(wǎng)絡(luò)連接的兩個(gè)端點(diǎn)之間傳輸所需的時(shí)間。在線游戲通常托管在多個(gè)服務(wù)器上,玩家將ping服務(wù)器,直到他們找到延遲最低的服務(wù)器,這意味著數(shù)據(jù)可以以最快的速度傳播。這就是時(shí)間敏感數(shù)據(jù)的關(guān)鍵,即使是幾分之一秒。
延遲也不完全依賴于傳輸機(jī)制。每一端都有編碼器和解碼器,這些物理層需要將電子轉(zhuǎn)換成所使用的任何能量形式,然后再將它們轉(zhuǎn)換回來。所有這些都需要時(shí)間,即使處理器以千兆赫的速度運(yùn)行,時(shí)間也是有限的,而且取決于所移動的數(shù)據(jù)量。
經(jīng)濟(jì)學(xué)定律
這種方法可能更靈活一些,但隨著處理和存儲資源需求的飆升,它也更難以預(yù)測。利潤總是微薄的,但如果在云計(jì)算中處理數(shù)據(jù)的成本突然上升,它可能證明盈利或虧損之間的差別。
云服務(wù)的成本開始于購買或租用服務(wù)器、機(jī)架或刀片的成本。這取決于CPU內(nèi)核的數(shù)量、所需的RAM或永久存儲的數(shù)量以及服務(wù)級別。有保證的正常運(yùn)行時(shí)間比沒有保證的服務(wù)水平花費(fèi)更多。網(wǎng)絡(luò)帶寬基本上是免費(fèi)的,但是如果需要最低水平的帶寬,那么應(yīng)該為此付出代價(jià),在評估成本時(shí)需要考慮到這一點(diǎn)。
也就是說,在邊緣處理數(shù)據(jù)不受這種可變成本的影響。一旦設(shè)備的初始成本已經(jīng)產(chǎn)生,在邊緣處理任何數(shù)量的數(shù)據(jù)的額外成本幾乎為零。
數(shù)據(jù)保護(hù)法
數(shù)據(jù)之所以有價(jià)值,是因?yàn)樗馕吨虼碇承〇|西?,F(xiàn)在,捕獲信息的任何人現(xiàn)在都可能受制于捕獲該數(shù)據(jù)所在地區(qū)的數(shù)據(jù)隱私法。這意味著,即使是捕獲數(shù)據(jù)的設(shè)備的合法所有者,也可能不允許跨越地理邊界移動數(shù)據(jù)。
例如,這將包括《歐盟數(shù)據(jù)保護(hù)指令》、《通用數(shù)據(jù)保護(hù)條例》和《亞太經(jīng)濟(jì)合作隱私框架》。加拿大的《個(gè)人信息保護(hù)與電子文檔法》與歐盟的數(shù)據(jù)保護(hù)法相符合,而美國的《安全港安排》也與歐盟的數(shù)據(jù)保護(hù)法相符合。
邊緣處理可以克服這一點(diǎn)。通過在邊緣處理數(shù)據(jù),它不需要離開設(shè)備。在便攜式消費(fèi)設(shè)備中,數(shù)據(jù)隱私越來越重要,手機(jī)上的面部識別使用本地人工智能來處理攝像頭圖像,所以數(shù)據(jù)永遠(yuǎn)不會離開設(shè)備。閉路電視和其他安全監(jiān)控系統(tǒng)也是如此。使用攝像頭監(jiān)控公共空間通常意味著圖像由基于云的數(shù)據(jù)服務(wù)器傳輸和處理,這會帶來數(shù)據(jù)隱私問題。在相機(jī)中處理數(shù)據(jù)既快又安全,可能消除或簡化數(shù)據(jù)隱私措施的需要。
墨菲定律
最后,我們需要考慮墨菲定律,該定律指出,如果某件事可能出錯(cuò),它就會出錯(cuò)。當(dāng)然,即使在世界上最精心設(shè)計(jì)的系統(tǒng)中,也總會出現(xiàn)問題。邊緣處理可以消除與通過網(wǎng)絡(luò)移動數(shù)據(jù)相關(guān)的許多可能的故障點(diǎn),將其存儲在云中并依靠數(shù)據(jù)中心提供處理能力。
如果一個(gè)應(yīng)用程序在技術(shù)上可以從邊緣處理中受益,那么還有一些問題要問。以下是一些最相關(guān)的建議:
1.應(yīng)用運(yùn)行在什么處理器架構(gòu)上
將軟件移植到不同的指令集可能代價(jià)高昂,并會帶來延遲,因此升級不應(yīng)該意味著移出。
2.需要什么樣的I/O
這可以是任意數(shù)量的有線和/或無線接口。如果考慮不周會導(dǎo)致效率低下,因此需要盡早解決因此需要盡早解決這個(gè)問題。
3.運(yùn)行環(huán)境是什么
運(yùn)行環(huán)境是冷是熱,比如火星任務(wù)是邊緣處理的一個(gè)很好的例子,如果是極端的,運(yùn)行環(huán)境是巨大的變化。
4.硬件是否需要符合規(guī)定或需要認(rèn)證
答案幾乎是肯定的,所以選擇一個(gè)預(yù)認(rèn)證平臺可以節(jié)省時(shí)間和金錢。
5.需要多少功率
就單位成本和安裝而言,系統(tǒng)電源很昂貴,所以了解功率是非常有益的。
6.邊緣設(shè)備是否受限于形狀尺寸
這在邊緣處理中比許多其他部署更重要,因此需要在設(shè)計(jì)周期的早期考慮。
7.工作時(shí)間是多少
這是進(jìn)入可能需要運(yùn)行多年的工業(yè)應(yīng)用,還是以月為單位測量生命周期,這些都是需要我們考慮清楚的。
8.系統(tǒng)的性能要求是什么
就處理能力而言,比如每秒幀數(shù)、內(nèi)存要求、應(yīng)用語言等等。
9.是否有成本考慮
這是一個(gè)棘手的問題,因?yàn)榇鸢缚偸恰笆恰?,但知道成本限制是什么將有助于選擇過程。
結(jié)論
邊緣處理是通過物聯(lián)網(wǎng)實(shí)現(xiàn)的,但它的意義遠(yuǎn)不止于此。它是由比早期連接設(shè)備示例更高的期望驅(qū)動的。低層次,有共性;該設(shè)備可能需要低功耗,可能需要低成本,但現(xiàn)在它可能還需要在不與功耗和成本沖突的情況下提供更高水平的智能操作。
通過選擇合適的技術(shù)合作伙伴,可以更容易地選擇合適的平臺。進(jìn)入一個(gè)圍繞邊緣計(jì)算開發(fā)的生態(tài)系統(tǒng),為人工智能應(yīng)用選擇正確的邊緣計(jì)算平臺。