【ITRIA】工研院 AI Edge Computing(中文)
來源:新智元 編輯:三石、克雷格
邊緣運算將為未來的百億終端,提供 AI 能力,形成萬物感知、萬物互聯、 萬物智慧的智慧世界,打通 AI 的最後一公里。另外,「邊緣將吃掉雲」的趨勢不斷顯現,具備設備、晶片和算法能力的企業,將成為邊緣智慧的終極玩家。
AI 的新機會在邊緣運算。
2018 年 5 月,對岸中國巨獸華為發佈《GIV2025打開智能世界產業版圖》白皮書指出,到八年後的 2025 年,全球物聯數量達 1000 億,全球智慧終端將達 400 億。
400 億智慧終端中,邊緣運算將提供 AI 能力,邊緣智慧成為智慧設備的支撐體,人類被基於 ICT 網路、以人工智慧為引擎的第四次技術革命,將帶入一個萬物感知、萬物互聯、 萬物智慧的智慧世界。
現在,在建構世界道路上,除了華為之外,還有諸多玩家,本文做簡單盤點。
邊緣運算三大優勢將「吃掉雲」,邊緣運算是人工智慧的最後一公里
邊緣運算是指在數據源處,或數據源附近完成的運算,是不同於依靠十幾個數據中心的雲端運算來完成所有工作。邊緣運算主要有低時延、隱私安全和靈活性三大特點。
儘管目前企業不斷將數據,傳送到雲端進行處理,但隨著邊緣運算設備的逐漸應用,本地化管理變得越來越普遍,企業上雲的需求或將面臨瓶頸。
Gartner Group在2017年的一份報告中預測:「邊緣將吃掉雲」。
Gartner 副總裁 Thomas Bittman 指出,由於人們需要即時地,與它們的數位輔助設備進行交互,因此等待數英里(或數十英里)以外的數據中心是行不通的。
以沃爾瑪為例,沃爾瑪零售應用程序,將在本地處理來自商店相機或感測器網路的數據,而雲端運算帶來的數據時延,對沃爾瑪來說太慢了。
人工智慧發展至今,在其所涉及偌大的領域中,仍舊面臨的問題便是優秀項目不足、場景落地缺乏。
另一方面,隨著人工智慧在邊緣運算平台中的應用,加上邊緣運算與物聯網「端-管-雲」協同推進,應用落地的需求不斷增加,邊緣智慧成為邊緣運算新的形態,打通物聯網應用的「最後一公里」。
目前,邊緣智慧已經在以下領域爆發應用。
自動駕駛
在汽車行業,安全性是最重要的問題。高速駕駛情況下,即時性是保證安全性的首要前提。由於網路終端機延時的問題,雲端運算無法保證即時性。
車載終端運算平台,是自動駕駛計算發展的未來。另外,隨著電動化的發展趨勢,對於汽車行業,低功耗變的越來越重要。天然能夠滿足,即時性與低功耗的ASIC 晶片,將是車載運算平台未來發展趨勢。目前地平線機器人與 Mobileye是OEM與Tier1的主要合作者。
安控、無人機
相比於傳統影像監控,AI + 影像監控,最主要的變化,是把被動監控變為主動分析與預警,因而,解決了需要人工處理海量監控數據的問題(也繞開了硬碟關鍵時刻掉鍊子問題)。安控、無人機等終端設備,對算力及成本有很高的要求。
隨著圖像辨識與硬體技術的發展,在終端完成智慧安控的條件日益成熟。對岸中國安控行業龍頭海康威視、無人機龍頭大疆已經在智慧攝影機上,使用了 Movidious 的 Myriad系列晶片。
消費電子
搭載麒麟 970 晶片的華為 mate10 手機,與同樣嵌入 AI 晶片的 iPhoneX 帶領手機進入智慧時代。另外,亞馬遜的 Echo 引爆了智慧家庭市場。對於包括手機、家居電子產品在內的消費電子行業,實現智慧的前提要解決功耗、安全隱私等問題。
據市場調研顯示,搭載 ASIC 晶片的智慧家電、智慧手機、AR/VR設備等智慧消費電子,已經處在爆發的前夜。
產業三分天下,擁有終端、算法、算力者通吃
目前,邊緣智慧產業生態架構已形成,主要有三類玩家:
第一類:算法玩家。從算法切入,如提供電腦視覺算法、NLP算法等。
商湯科技和曠視科技,是對岸中國他們國內較為成功的,以算法起家的公司。去年 10 月 20 日,商湯科技同美國高通公司宣佈,將展開「算法 + 硬體」形式的合作,將商湯科技機器學習模型與算法,整合進高通針對行動終端、IoT 設備的晶片產品中,為終端設備帶來更優的邊緣運算能力。
而曠視科技為了滿足實戰場景中,不同程度的需求,也在持續優化算法,以適配邊緣運算的要求。
第二類:終端玩家。從硬體切入,如提供手機、PC 等智慧硬體。
擁有眾多終端設備的海康威視,在安控領域深耕多年,是以影像為核心的物聯網解決方案提供商。在其發展過程中,才將邊緣運算和雲端運算加以融合,來更好的解決物聯網現實問題。
第三類:算力玩家。從終端晶片切入,如開發用於邊緣運算的 AI 晶片等。
對於邊緣運算晶片領域,華為去年 10 月份的全聯接大會上發佈昇騰系列晶片——昇騰 310,功耗 8W 算力 8TOPS,面向邊緣計算產品。「邊緣運算」將成為泛網路核心成長點,形成平行華為終端的未來測略方向;用 AI 升級管道服務,幫客戶建構智慧時代的全新 ICT 基礎設施。
緊跟著華為的步伐,比特大陸去年10 月份,也發佈了首款低功耗邊緣 AI 晶片 BM1880 以及一系列產品,切入邊緣終端市場。
嘉楠耘智也是中國他們國內專注研發高速、低功耗晶片的科技公司。嘉楠耘智於 9 月發佈量產的邊緣計算晶片 KPU,主要用於智慧終端、行動終端、語音辨識、圖像處理等領域。兩家均借助最新 EI 晶片切入邊緣智慧市場。
國際上,谷歌雲推出 TPU 的輕量級版本 —— Edge TPU,用於邊緣運算,並開放給商家。而谷歌雲的勁敵亞馬遜,也在年初被曝光開發 AI 晶片,主要用來支持亞馬遜的 Echo,及其他行動設備。
不過單一佔據一類的參與者不是終極玩家。邊緣智慧需要企業同時具備終端設備、算法和晶片的能力。除了像華為這樣的大廠外,新晉企業中的小蟻科技,應當算是邊緣智慧裡「終極玩家」的種子選手。
小蟻科技基於先天具備海量數據的優勢,對其進行大量訓練,使得算法精度達到最高,再將智慧晶片嵌入智慧設備中,形成數據、算法、算力的閉環。並於今年6月,小蟻科技正式發佈邊緣智慧的三大應用場景:智慧家庭、智慧出行和智慧零售。利用 EI 重構算力、重構算法、重構商業智慧。
小蟻科技 CEO 達聲蔚:「邊緣運算的優勢是新摩爾定律」
小蟻科技應當算是他們中國國內新晉企業中為數不多的,能夠做到「三位一體」深耕邊緣智慧的公司。日前,新智元對小蟻科技創始人兼 CEO 達聲蔚,以及合伙人孔華威進行了專訪,以下為專訪精要。
小蟻科技創始人兼 CEO 達聲蔚
記者:小蟻科技現在主打邊緣智慧,您在AI WORLD 2018人工智慧峰會上提出過,「邊緣計算的優勢是新摩爾定律」的論斷,依據是什麼?
達聲蔚:小蟻科技在影像領域,從最早期的 100 萬像素到 2000 萬像素,主要克服的是,人類在像素升級過程中,是否可以看的很清楚,新摩爾定律主要是在影像的獲取和壓縮上體現。
現在的影像處理完全是兩個象限,一軸是數據,另一軸是智慧,像人一樣,除了長個子,還要長腦子,影像到4K為止,其實不需要再增高解析度,但需要的是分批能力,現在大量雲端影像缺乏人力、空間和時間去看影像,需要電腦視覺幫忙看。
總的來說,一方面是攝影機在增加,一方面影像的數據量也在變大,兩者相乘是幾何級數的成長,而處理能力需要有快速提高的過程。計算力的提高和功耗的大幅度降低,解決了 AI 雲發展中的能耗比問題,否則就會變成人一眨眼間可做的事情,AI 要耗費幾千瓦功耗來實現,就不太值得了。
您對邊緣智慧大爆發的時間有沒有推斷?
達聲蔚:未來兩年非常關鍵,2019-2020 年是一個大爆發階段。2020 年無人駕駛汽車或將問世,亞馬遜無人商店計劃在未來兩年中開設 3000 家,支付領域出現刷臉支付,逐漸有替代二維碼支付的趨勢,在安全監控前端智慧上,也在大規模投入。以上無人駕駛、無人零售、安控等,都是大標竿企業落地應用的情況,一定會帶動整個行業的情況。
記者:小蟻是視覺系統的整合者,技術包括既包括算法、也包括硬體,聽說還在做晶片,能否透露晶片的進展,以及策略定位?
達聲蔚:小蟻科技主要針對端進行創新。目前我們說「端管雲」,管是5G,端就是我們強調的邊緣智慧。
小蟻科技專注於端,端上有很多數據要直接處理掉,否則會有百倍數據,傳送到管道裡和雲端,增加雲端處理負擔和延時,及增加了頻寬的負擔,端上也可以解決數據隱私的部分問題,這就是在端上做 AI 晶片的重要性;
另外在端上,除了手機終端走在前面,而其他 IOT 終端大多沒有智慧,需要進一步跟上。在端上小蟻科技有非常好的佈局,明年我們計劃把最高算力,拉到最普通設備上實現,算力提高且功耗降低,晶片計劃明年下半年完成研發。
小蟻科技專注於端,端上有很多數據要直接處理掉,否則會有百倍數據,傳送到管道裡和雲端,增加雲端處理負擔和延時,及增加了頻寬的負擔,端上也可以解決數據隱私的部分問題,這就是在端上做 AI 晶片的重要性;
另外在端上,除了手機終端走在前面,而其他 IOT 終端大多沒有智慧,需要進一步跟上。在端上小蟻科技有非常好的佈局,明年我們計劃把最高算力,拉到最普通設備上實現,算力提高且功耗降低,晶片計劃明年下半年完成研發。
小蟻科技在全球的研發佈局是怎樣的?有什麼優勢?
達聲蔚:小蟻科技在中國建立了研發團隊,包括北京、上海、深圳均有小蟻科技的研發團隊,同時,在以色列有將近 30 人左右自建的研發團隊,國際專利大部分是以色列團隊做的,近年來申請了國際多項原創技術專利,研發團隊非常有生命力;
我們在美國還有矽谷和西雅圖兩個研發中心,主要是為了跟合作夥伴貼近,西雅圖的辦公室有 20 人,是我們在海外開設的第二個辦公室。
我們在美國還有矽谷和西雅圖兩個研發中心,主要是為了跟合作夥伴貼近,西雅圖的辦公室有 20 人,是我們在海外開設的第二個辦公室。
採訪花絮:中科院計算所上海分所所長,起點資本合伙人孔華威剛剛投資了小蟻科技孵化的晶片公司「齊感科技」,同時也成為小蟻科技的首席策略官,他對達總的「新摩爾定律」非常認可。
孔华威
孔華威說,最近「邊緣」兩個字,在人工智慧、雲端運算、物聯網,甚至區塊鏈領域都「不約而同」的熱起來,看來是「風來了」!在最近的論壇中,高文院士直言,如果智慧城市和城市大腦,按照當下「一切皆雲」的思路,那麼所謂的「類腦計算」,就會是「累腦計算」。
高院士認為,就影像監控看,終端、邊緣端、雲端這三端的人工智慧必須「各司其職」,分層處理,攝影機終端在影像編碼的同時要「特徵編碼」,邊緣端做「應急 LBS 的決策」,到雲端「類腦」只做決策,而且是全局決策。
這個架構與小蟻科技的「雲蟻物聯」平台,有點「英雄所見」的感覺:雲端是全球部署的 AI PaaS,邊緣運算設備 X18 視網膜「算力」盒子,終端是具有人臉特徵的 K34 攝像機。
高院士認為,就影像監控看,終端、邊緣端、雲端這三端的人工智慧必須「各司其職」,分層處理,攝影機終端在影像編碼的同時要「特徵編碼」,邊緣端做「應急 LBS 的決策」,到雲端「類腦」只做決策,而且是全局決策。
這個架構與小蟻科技的「雲蟻物聯」平台,有點「英雄所見」的感覺:雲端是全球部署的 AI PaaS,邊緣運算設備 X18 視網膜「算力」盒子,終端是具有人臉特徵的 K34 攝像機。
孔華威進一步補充,從產業發展看,目前在邊緣智慧領域,業界根據各自優勢從三維度分別切入:算法、晶片和智慧硬體。但是冷靜分析,邊緣智慧(EI),尤其是行動邊緣智慧,需要三方面垂直穿透能力,一是硬體設備的規模交付能力,二是終端每瓦多少 Tops 的 AI 算法,和雲端訓練算法配合,三是高整合低功耗的 SoC 晶片。小蟻科技集算法、晶片和千萬級的智慧硬體優勢三位一體,以「邊緣運算視覺賦能」為主航道,向華為、海康威視等大佬學習,技術創新的同時,進一步強化「雲蟻物聯」的「視覺賦能」服務,成為邊緣智慧時代的領跑者。
AI 已經長跑了 60 年,邊緣智慧應該是衝刺階段。而最終,誰能夠部署足夠多的「AI 終端」,便能在此過程中跑「盈」。這也許是人工智慧獨角獸們所料未及的!
0 comments:
張貼留言