2017年12月8日 星期五

.當邊緣計算遇上人工智慧,物聯網的春天就又要來了

Edge Computing Video

Netgear XS716E 16埠 10Gb 簡單網管交換器 SWITCH


來源:EET电子工程专辑 作者:邵乐峰 


人工智慧在邊緣側的不斷擴充套件,是駕馭資料洪流的關鍵環節之一,也是物聯網未來發展的重要趨勢。隨著人工智慧如火如荼的發展,海量資料需要快速有效地分析和提取洞察,這也大大加強了對於邊緣計算的需求。

人工智慧的發展離不開資料,因為它需要大量的資料進行訓練。在當前這樣一個萬物智慧互聯的時代,資料量的產生速度超出了一般人的想像。

以智慧攝影機為例,隨著攝影機的解析度從1080P轉向4K,其一天所採集到的資料量將達到200GB。

面臨同樣問題的還包括智慧醫院、自動駕駛和智慧工廠,它們一天所產生的資料將分別超過3TB、4TB和1PB。有人做過這樣的預測,到2020年,一個網際網路使用者,平均每天將產生的資料量大概是1.5GB。

  英特爾中國區物聯網事業部技術長張宇博士
  
英特爾中國區物聯網事業部技術長張宇博士,日前在邊緣計算產業聯盟峰會主題演講中,分享瞭如何在網路邊緣,實現智慧化的觀點。

他認為,人工智慧在邊緣側的不斷擴充套件,是駕馭資料洪流的關鍵環節之一,也是物聯網未來發展的重要趨勢。隨著人工智慧如火如荼的發展,海量資料需要快速有效地分析和提取洞察,這也大大加強了對於邊緣計算的需求。
  
邊緣側趨向負載整合
「以前的資料很多都是結構化資料,可以透過Excel表格或者簡單的關係型資料庫,對其進行維護和管理。但今後會有越來越多的非結構化資料,需要進行處理並藉此發現內在關聯,這時就需要邊緣計算和人工智慧技術。」

但張宇並不認為對邊緣計算的強調,就意味著邊緣計算將代替雲端計算,「在物聯網從互聯走向智慧,再走向自治的過程中,兩者是協同互補的關係,並非彼此取代。」
  
在他看來,邊緣計算所處理的資料屬於區域性資料,並不能形成對於全域性的認知,只有雲端計算平台,才能在後端對從各種不同邊緣採集到的資料,進行融會貫通。

例如在智慧交通領域,儘管智慧攝影機能夠透過各種方法,能夠辨識出行人、車型、顏色和車牌,但卻不瞭解車的軌跡;在今年的雙11活動中,天貓商城的銷售峰值超過25億/秒,如果沒有雲計算平台的支援,這是很難想像的。
  
不過在2012年以前,人工智慧在做影像辨識時的準確度是低於人類的。下圖中,虛線代表人類辨識水準,實線代表機器辨識錯誤率。可以看到,2012年以前機器辨識的錯誤率,還是高於人類的,但呈逐漸下降趨勢,2012年之後,隨著AlexNet等神經網路的出現,人工智慧水平出現了質的飛躍。

20171206-intel-IoT-AI-1
  機器辨識錯誤率正在逐年下降
  
但人工智慧同樣面臨很多挑戰,對計算和儲存資源的巨大消耗就是其中之一。以百度搜尋為例,它每完成一次搜尋,就需要完成千億億次的計算;如果再進行推理,即使去處理一張224 X 224解析度的圖片,像AlexNet、GoogleNet這樣的人工智慧網路,計算量也要超過10億次。
  
因此,張宇強調了在邊緣側趨向負載整合,是物聯網演進的一個必然趨勢。原來在不同裝置上分立的負載,會越來越多地透過虛擬化等技術,整合到一個單一的高效能的計算平台上,來實現一個綜合的複雜的功能,各個功能子系統,既能分享裝置提供的計算、儲存、網路等資源,同時還能具有一定的獨立性,避免彼此的相互影響,從而可以簡化系統架構,降低系統總體。

同時,負載整合實際上也為邊緣計算的實現,以及為實施人工智慧的應用提供了條件。整合後的裝置既是邊緣資料的匯聚節點,同時也是邊緣控制的中心,這為邊緣智慧提供了處理所需的資料,同時也提供了控制的入口。

因此英特爾認為人工智慧和負載整合的結合,會在今後的邊緣計算的系統裡發生。

  在邊緣側趨向負載整合是物聯網演進的必然趨勢
  
邊緣協同的端到端系統
在一個邊緣協同的端到端系統中,由於不同網源的功耗、計算效能和所能承擔的成本各不相同,因此在選取硬體架構時往往會有特定要求。

英特爾的做法是根據使用者需求,提供不同架構的解決方案,涵蓋至強處理器、至強融核處理器、Movidius/Nervana神經網路處理器和FPGA、網路,以及儲存技術等硬體平台,以及多種軟體工具及函式庫,優化開源框架,來讓他們進行自主選擇。
  
張宇認為,如果想將人工智慧用到邊緣側,網路優化將是一個關鍵的技術。因為目前人工智慧的理論基礎並不完備,導致很多人工智慧的方法是冗餘的,急需優化。
  
低位元、剪枝和引數量化,是英特爾做網路優化的三大思路。所謂低位元,是指在傳統的深度學習領域,往往採用32位元單精度浮點來進行參數列述,但在安控、機器學習和機器視覺實際應用中,卻並不需要如此高的精度,在不影響最終辨識率的情況下,英特爾傾向將32位元的單精度浮點,轉變成16位元的半精度,甚至是8位元、2位元的整數精度,從而降低儲存與計算負荷。
  
剪枝也是類似。如果把人工智慧網路,比喻成一個樹枝,這棵樹的每個不同分權,實際上對應的是不同的檢測特徵。對於沒有效果的分支,使用者完全可以在優化過程中把它剪掉,降低計算複雜度。

而引數的量化,是指可以根據引數的特徵做聚類,用相對比較簡單的符號或數字來表述,從而降低人工智慧對於儲存的要求。
  
如何界定行業的邊緣?
計算任務應該放在邊緣,還是放在雲端去做?如何界定行業的邊緣?英特爾方面認為邊緣計算的核心問題,是如何根據不同行業的不同應用需求,選擇不同的工作負載、成本和功耗方案去實施,並沒有一致性的答案。

以安全監控為例,如果不考慮邊緣計算,最簡單的方式是前端攝影機捕捉到視訊資訊,傳到作為中間節點的NVR做儲存、解碼和播放,然後把資料以流媒體方式,壓縮後傳輸到後端。但這種海量資訊的傳輸,對網路頻寬和後端儲存形成了壓力,勢必導致一部分業務的執行和計算前移。

在這個需求下,使用者具體是做車輛、行人或路標的檢測、跟蹤、分類、辨識,這對於前端攝影機裡佈署的智慧分析演算法,是有不同要求的。
  


但有一個共性的技術是需要理解和掌握的:即怎樣使計算架構變得更容易被軟體定義?

也就是說,不管何種業務型別,都可以更靈活的在雲端,在邊緣側,甚至在終端節點上執行。如果沒有軟體定義的靈活性,要把工作負載從雲端遷移到前端,是非常困難的事情,晶片廠商必須要做這樣的考量。
  
「邊緣計算聯盟(ECC)並不是要實現完全統一的架構,更多的是提供參考架構。」張宇解釋說,參考架構旨在定義一個邏輯框架,儘管不會細分到每種硬體需要怎樣的配置、執行何種協議、實現何種功能等,但裡面也有能夠適應不同複雜度的系統。

比如邊緣計算節點(ECN)概念,就可能是一個單一裝置、一個邊緣叢集或者是一個邊緣雲,可以根據不同使用者的使用場景,實現不同的適配。

但他同時也承認,不同垂直行業的要求是不一樣的,如何把邊緣計算的理念和框架對映到垂直行業裡,產生真正可落地的具體方案,這是挑戰,也是聯盟正在努力推進的方向。此外,今後如何在架構的升級中,體現不同行業的特點與個性,也是今後工作的重心。
  
而作為聯盟驅動創新的重要成果,《邊緣計算參考架構2.0》在本屆峰會上正式釋出,重點闡釋了邊緣計算的概念、特點、價值,分別從概念檢視、功能檢視、佈署,檢視三個維度全方位展現ECC邊緣計算參考架構2.0,提出構建模型驅動的智慧分散式開放架構,實現架構極簡,OICT設施自動化和視覺化,以及資源服務與行業業務需求的智慧協同,透過全層次開放架構推動跨產業的生態協作,產品的快速孵化,為邊緣計算技術研發、應用創新和產業發展提供方向指引。

  
把自己人搞得多多的,把敵人搞得少少的
邊緣計算同樣是一個巨大的生態系統,不可能有任何一家公司能夠完全覆蓋產業鏈裡,所有的上下游環節。

本屆峰會上,ECC與工業網際網路產業聯盟(AII)正式簽署戰略合作協議,宣佈雙方未來將在研究報告/白皮書、試驗平台/測試床、技術標準、市場推廣等方面開展合作;與國際半導體照明聯盟(ISA)、車載資訊服務產業應用聯盟(TIAA)簽訂戰略合作協議,共同致力於推動邊緣計算在智慧照明、智慧車載領域的應用創新、標準制定和商業落地。


同時還宣佈將與西安電子科技大學、中國自動化學會邊緣計算專業委員會聯合舉辦「2018年邊緣計算技術研討會(SEC-China 2018)」,為相關領域學術界、產業界提供交流合作,成為釋出領域相關前沿科研成果的平台,大力推動中國邊緣計算技術與產業的發展。


  
作為聯盟的重要一員,英特爾物聯網事業部首席戰略技術官兼首席高階工程師Brain McCarson,對公司的定位是提供計算、通訊、儲存所需要的晶片解決方案,以及圍繞晶片相關的底層軟體和中介軟體元素。

他特別提到了兩家合作伙伴:華為和瀋陽自動化研究所。其中,華為釋出了基於英特爾處理器的邊緣閘道器產品AR550i,利用這個產品,華為在整個產業鏈就起到了ODM/OEM的角色,並將其帶給相應的系統整合商和終端使用者;

英特爾聯合瀋陽自動化研究所展示的邊緣計算測試床,則是智慧機器人,目的是驗證基於深度學習的機器視覺方案,在實際系統中的工作效果。

該系統由英特爾實感技術實現3D視訊採集,基於英特爾邊緣計算參考平台完成物體的檢測與辨識,結果將控制機器人的手臂完成物體抓取的操作。
  
張宇認為,無論是雲端計算還是邊緣計算,都無法獨立存在,兩者之間是相輔相成的。英特爾的優勢,在於能夠完全覆蓋從雲端計算到網路通訊基礎設施,再到終端的端到端系統。

而從軟體生態上來說,目前而言,X86架構處理器晶片的軟體相容性優勢依然非常明顯,絕大部分企業級應用,仍然執行在X86架構上。未來,隨著計算能力的進一步釋放,英特爾將會在資料鏈路中,扮演更重要的角色。



                                                                                                                                                                                                                 

沒有留言:

張貼留言