2022年3月28日 星期一

· 邊緣運算和人工智慧:要知道的 7 件事

什麼是邊緣計算,為什麼它如此重要? - InHandgo.com

What is edge computing, and why is it so important? - InHandgo.com

 


THE ENTERPRISERS PROJECT


邊緣運算和人工智慧 (AI) 如何協同工作?為什麼邊緣與人工智慧很好地契合?有哪些用例?讓我們來看看 IT 領導者應該知道什麼


2020 年邊緣計算趨勢

幾十年來,  人工智慧 (AI) 一直存在於數據中心,那裡有足夠的計算能力,來執行對處理器要求很高的認知任務。隨著時間的推移,人工智慧進入了軟體領域,預測算法改變了這些系統,如何支持業務的性質。現在人工智慧已經轉移到網路的外圍。

SAS 物聯網副總裁 Jason Mann 解釋說:「當人工智慧技術嵌入物聯網(IoT) 端點、GATEWAY 和其他使用點的設備時,就會發生邊緣人工智慧。」 

「換句話說,邊緣運算 使數據和計算最接近交互點,」 紅帽 首席 技術策略師 EG Nadhan 說Edge AI 是一種非常真實(且迅速擴展)的現象,它為從智慧手機和智慧揚聲器到汽車感測器,和安控攝影機的所有事物提供動力。

事實上,  IDC 專注於邊緣策略的全球基礎設施實踐研究總監 Dave McCarthy 說,人工智慧是邊緣運算中「最常見的工作負載」。“隨著物聯網實施的成熟,「他補充道,“人們對在生成點應用人工智能進行實時事件檢測的興趣越來越大。」

人工智慧是邊緣算中「最常見的工作負載」。

德勤 預測,今年將售出超過 7.5 億塊邊緣 AI 晶片(專門用於執行或加速設備上機器學習),企業市場的成長速度超過其消費市場,複合年成長率為 50%,超過未來四年。

根據 Analysys Mason 的報告「2019 年邊緣成功策略」,企業將在未來三年內,將平均 30% 的 IT 預算用於邊緣雲端運算。

[ 為什麼邊緣運算對 IT 領導者很重要 —— 下一步是什麼?詳細了解紅帽的觀點]

當 IT 領導者考慮邊緣 AI,可能適合他們自己的企業技術路線圖時,以下是我們現在知道的一些事情:

1. 從頭開始很重要

如果你尚未實施邊緣解決方案,則無法跨越到邊緣 AI。CompTIA 技術分析高級總監 Seth Robinson 表示:「當今大多數 IT 領導者的第一步,是建構一個利用邊緣運算,與雲後端相結合的解決方案架構 。」展望未來,整合人工智慧將是管理邊緣解決方案規模,和建立競爭優勢的關鍵一步。」

2. 邊緣人工智慧可以解決雲端的人工智侷限性

延遲、安全性、成本、頻寬和隱私,是與機器學習或深度學習任務相關的一些問題,邊緣人工智慧(更接近數據源)可以解決這些問題。例如,每次你向 Siri、Alexa 或 Google 提出問題時,你的錄音都會被發送到邊緣網路,Google、Apple 或 Amazon 在該網路中,使用 AI 將語音轉換為文本,以使命令處理器能夠生成答案。

例如,每次你向 Siri、Alexa 或 Google 提出問題時,的錄音都會被發送到邊緣網路。

如果沒有優勢,等待幾秒鐘的響應將是司空見慣的。「邊緣網路允許在 Doherty 閾值(小於 400 毫秒)內,獲得愉快的使用者體驗,」 PubNub 的首席技術官兼聯合創始人 Stephen Blum 說。「谷歌、蘋果和亞馬遜已經花費數百萬美元,投資於他們的優勢,以便他們的人工智慧能夠快速回答你。為了與巨頭競爭,企業需要投資邊緣人工智慧。」

[獲取可共享的入門讀物: 如何用簡單的英語解釋邊緣運算。] 

3. 今天只有一部分 AI 工作流發生在邊緣

「今天的人工智慧邊緣處理,專注於將人工智慧工作流程的推理,部分轉移到設備上,」Omdia 分析師在他們的 人工智慧邊緣設備 報告中解釋道。IDC 的 McCarthy 解釋說,人工智慧模型本身通常在中央數據中心,或雲端基礎設施中,使用歷史數據集進行訓練。然後可以將這些 AI 模型佈署到邊緣,以針對當前數據進行本地推理。

人工智慧模型本身,通常使用歷史數據集在中央數據中心或雲端基礎設施中進行訓練。

「基本上,公司可以在一種環境中進行培訓,並在另一種環境中執行,」SAS 的 Mann 說。「訓練機器學習所需的大量數據和運算能力非常適合雲端運算,而對新數據進行推理或運行,經過訓練的模型非常適合在邊緣執行。」 Omdia 指出,「能夠將大型 AI 模型壓縮成小型硬體外形」的模型壓縮技術,可能會隨著時間的推移,將一些訓練推向邊緣。

[另請閱讀: 大數據和人工智慧如何協同工作]

4. 邊緣即時學習需要時間

「即時學習允許人工智慧,在每次交互過程中不斷發展和改進。為了讓 AI 即時學習,矩陣(AI 大腦)必須在允許訓練的同時回答你的請求。此外,學習的數據必須與對等邊緣同步,」PubNub 的 Blum 說。「這一後勤挑戰,導致大多數網路排除了即時學習。」

然而,當這些挑戰得到克服時,這將為更先進的邊緣人工智慧應用打開大門,Blum 說。

讓我們看看三個更重要的因素:

5. 邊緣人工智慧需要大量數據

IDC 的 McCarthy 說,只有當你有足夠的數據,來建構統計相關模型時,整個過程才有效。「許多公司不滿足最低要求,無論是在歷史數據量方面,還是在正確的數據類型方面,都沒有達到預期的結果。」

6. 首先整理好你的數據倉庫

據 CompTIA 的 Robinson 稱,大多數組織尚未建立全面的數據管理實踐,也沒有這些類型的數據集。「此外,現代人工智慧比以前的軟體程序更多地基於概率。不正確或無意義的答案的風險更高,如果訓練數據不完整或有任何偏差,風險就會增加。公司需要從徹底檢查其數據開始,而不是能夠快速安裝 AI 組件並從中受益。」

與此同時,根據 McCarthy 的說法,主題專家可以用業務邏輯,代替數據的學習,這種學習可以即時用於多個數據流,直到組織累積了足夠好的數據,來充分利用人工智慧。

7、雲端到邊緣的架構要靈活且具有前瞻性

「當你定義架構時,請確保你針對企業規模進行設計,」SAS 的 Mann 說。「雲端到邊緣架構需要支持模型佈署、模型隨時間變化,以及在安全環境中傳輸數據。」

Mann 建議實施與晶片組、操作系統和雲端提供商無關的架構,以提供最大的靈活性,以實現長期的持續價值。

Mann 說,雖然並非所有問題都適合邊緣 AI,但「所有 IT 基礎設施和架構都應設計為適應邊緣分析,因為高級用例的發展。擁有一個可以支持在即時或批次處理,所需位置佈署分析的環境非常重要。」


沒有留言:

張貼留言