Edge Computing Vs. Cloud Computing

邊緣運算對比雲端運算

行動物聯網雲端縮時應用方案

多年來，處理數據的方式不斷發展，以實現更高的效率、更多的儲存和更快的處理。如今，人工智慧在許多應用中的使用，需要定期推進這些過程，以滿足機器學習的高要求。在深入探討邊緣 AI 和雲端 AI 之間的差異之前，我們先來看看邊緣運算、雲端運算，以及其他構成邊緣 AI 和雲端 AI 的概念。

邊緣運算允許透過分散的處理框架，分發應用服務，而雲端運算則透過網際網路，使用多個伺服器。數據處理和其他操作是集中的。

雲端運算和邊緣運算哪個更好？

儘管它們完全不同，但沒有任何阻礙，邊緣運算也不是取代雲端運算的必要手段。對於處理時間不敏感的資訊，雲端運算是一個不錯的選擇，但對於需要即時處理數據，或增強隱私的應用，邊緣運算是最適合這項工作的。這種差異已經描述了邊緣 AI 和雲端 AI 之間的差異之一。

邊緣計算基礎設施

圖片。邊緣計算基礎設施來源：維基百科

人工智慧和機器學習

機器學習是人工智慧的一個子集，它需要機器從在有監督或無監督環境中，呈現給它的大量數據中學習。有了更大量的數據可供使用，模型的準確性就更高了，因為它能夠做出推斷，並且更有利於提供對查詢的精確響應。

人工智慧應用每天都會生成大量數據，大小達數十萬 GB。這些人工智慧應用範圍從物流、醫療保健和監控到常規消費設備。有了這麼多數據，就會出現一個問題，「數據在哪裡，以及如何處理？」這就是邊緣人工智慧和雲端人工智慧的用武之地。透過機器學習的人工智慧，可以佈署在這兩種架構上以處理數據。最終使用的架構，取決於需要它的應用。選擇過程並不像選擇「更強大的」那麼簡單，還需要考慮其他一些因素。這些因素描繪了邊緣 AI 和雲端 AI 之間的差異。

邊緣人工智慧浪潮

圖片。為什麼邊緣人工智慧是新浪潮來源：走向數據科學

雲端人工智慧

在雲人工智慧中，機器學習用於透過雲端基礎設施，將人工智慧整合到應用中。大多數雲端服務提供商，提供廣泛的 AI 服務，開發人員可以在其應用中使用這些服務。傳輸這些服務所需數據的設備連接到網路，透過網路發送數據進行處理、儲存和分析。

想要映射與你的 AI 項目，實施相關的所有內容嗎？下載我們的免費工作板

邊緣人工智慧

邊緣人工智慧 (Edge AI) 系統使用機器，或深度學習算法，在靠近數據生成位置的地方分析和處理數據。數據儲存和數據處理過程，在邊緣設備上完成，而不是傳輸到另一個位置進行處理。這些設備可以是邊緣伺服器、電腦或物聯網設備。

邊緣運算和 5G

圖片。邊緣運算和 5G 來源： Lanner

邊緣 AI 和雲端 AI 之間的差異顯示，邊緣 AI 允許機器學習算法即時運行，並通過去中心化架構提高隱私和安全性以及對數據的即時處理。借助雲端的人工智能模型，支持知識共享、大型人工智能模型，並減少阻礙實施的因素。Edge AI 和 Cloud AI 都有其優勢，但也並非沒有缺點。結合兩者的優點是前進的方向。

機器學習模型所需的運算能力和大量數據，是使用集中式雲端的資源，來訓練它們以開發精確模型的一些原因。然後將生成的模型分發到邊緣設備，或在集中式雲端中設置。

Cloud AI 和 Edge AI 不應被視為對立的元素，而是互補的架構，這在邊緣 AI 設備，使用雲端資源的情況下很明顯。

由於雲端模型（提供可擴展性和簡單性）中存在的頻寬、隱私、延遲、安全性和自治性問題，對更多邊緣 AI 實施的需求不斷增加。AI 模型透過處理生成數據的設備上，所有的任務來解決這些問題。

想要了解最新的人工智慧領先趨勢嗎？訂閱我們的博客

邊緣運算物聯網

圖片。基於晶片的邊緣 AI 推動下一代物聯網來源：今日物聯網世界

邊緣人工智慧的發展

網路基礎設施和邊緣運算的進步，在分佈式邊緣 AI 模型和集中式雲 AI 模型之間，架起了橋樑。邊緣 AI 和雲端 AI 之間的差異，並不意味著一個最終會比另一個更好，或者一個很快就會將另一個淘汰。相反，邊緣運算透過允許授權，分佈在世界各地來補充雲端。

邊緣設備比雲端架構，更容易訪問未處理的輸入數據，雲端架構必須使用預處理數據，來提高海量數據集的性能。這些龐大的數據集，造成了嚴重的頻寬問題。

透過將數據儲存、數據處理、AI 推理和其他流程移至邊緣，實現了比雲端架構中更快的響應時間。

對於需要即時處理和分析數據的應用，如自動駕駛汽車、電腦視覺、安全攝影機和虛擬無線電接入網路，低延遲和高速度非常重要。就自動駕駛汽車而言，感測器觀察環境、檢測路徑中的障礙物，並提供回饋的速度，可以決定乘客和其他道路使用者的安全。除了延遲和速度之外，邊緣運算改進的另一個領域是隱私。透過邊緣運算，透過控制傳輸到雲端的數據來改善隱私。

邊緣 AI 的佈署並非沒有其局限性，例如內存壓力以及操作系統，或用戶將進程降級到後台的可能性。

邊緣人工智慧和雲端人工智慧的區別在於，對於邊緣人工智慧架構上的設備，開發人員需要針對這些限制的很多情況進行規劃，尤其是在手機中，而任何解決方案都可以在雲端進行監控。

雲端人工智慧和邊緣人工智慧的區別：互補，而不是對立。

雲端 AI 和邊緣 AI 模型，被視為互補而不是對立，這體現在使用雲端 AI，進行批量學習技術的策略中，該技術可以適應海量數據集的處理，以創建更智慧的算法以獲得最佳精度。然後可以使用邊緣 AI 來運行模型，雲端服務從它們的性能中學習，將它們應用於基礎數據，以進行持續的學習過程。

邊緣運算

圖片。大數據、人工智慧、物聯網和雲端計算：未來主義方法？資料來源： TechBooky

儘管邊緣 AI 和雲端 AI 之間存在差異，但兩者之間需要適當的平衡。完全致力於邊緣 AI，意味著除非採用聯合學習方法，否則你將無法持續改進機器學習模型。此外，由於使數據可上傳所需的權衡，完全致力於雲端 AI 意味著，將缺乏通知用戶數據量的回饋，也不會有通知用戶更好地捕獲的回饋數據，並且數據品質有可能受到影響。

借助邊緣 AI，雲端 AI 可在請求時訪問即時決策，而雲端可用於為更廣泛的數據集，提供更深入的見解。自動駕駛汽車就是一個例子。它們具有即時捕獲數據的感測器，這些數據會不斷處理以做出決策，例如何時停止、何時加速，以及何時向右或向左轉向。用於即時決策的相同數據，也可以傳輸到雲端進行長期模式分析，用於通知用戶應該進行的維修，以避免故障和事故。反過來，雲端人工智慧透過為增強人工智慧模型，提供更深入的見解來補充邊緣人工智慧。

Cloud AI 和 Edge AI 協同工作

需要完成應用的設計，以確保工作負載在它們之間正確拆分和協調，以允許雲端 AI 和邊緣 AI 的架構和程序相容性，以便它們協同工作。邊緣的攝影機能夠在捕獲數據時，對其進行處理，並且不會因不必要的數據而使網路過載。當啟用邊緣功能的攝影機檢測到感興趣的人，或感興趣的對象時，重要幀會被傳輸到雲端服務，該服務儲存數據並分析檢測到的對象的屬性，然後呈現結果。

需要注意的是，大型模型在雲端中效果更好。還應確保無論採用何種策略，都可以在模型的數據和大小與數據傳輸成本之間取得平衡。

在邊緣設備生成大量數據的情況下，為了不將其全部發送到雲端，可以在本地更新模型，而僅將數據的相關部分傳輸到雲端進行進一步分析。在對敏感數據運行 AI 推理時，還必須考慮隱私問題。最好在本地處理數據以符合隱私法規。

邊緣人工智慧與雲端人工智慧

圖片。你現在需要從雲端運算轉向邊緣運算！來源：走向數據科學

將 AI 從雲端轉移到邊緣

將人工智慧從雲端轉移到邊緣可能具有挑戰性，因為需要創建能夠在邊緣人工智慧晶片中，良好運行的神經網路架構。雲端伺服器運行在通用運算平台上，可以在任何網路架構上執行，但在邊緣 AI 中，必須修改模型和架構，才能在邊緣的 AI 模組上執行。

Bruno Fernandez-Ruiz（一家名為 Nexar 的智慧行車記錄器公司的聯合創始人兼首席技術官）和他的團隊一直在研究雲端 AI 和邊緣 AI 的權衡，以增強他們的行車記錄器應用。他們意識到在推理過程中，網路頻寬不足以將所有捕獲的數據傳輸到雲端，需要對所有本地輸出進行全局聚合。這是一個問題，尤其是當用戶從具有高性能行動網路的區域移動，到死區並期望行車記錄器照常工作時。邊緣 AI 可用於過濾需要傳輸到雲端，進行額外處理的數據。

他們還發現，雲端 AI 完成的訓練，最終可能會出現在神經網路模型中，該模型的層數過多，無法在邊緣設備上有效運行。作為一種解決方案，邊緣 AI 可以運行一個更輕的神經網路，提供輸入的過渡表示。這種表示經過壓縮，可以傳輸到雲端，以便由雲端 AI 服務進行額外處理。相比之下，邊緣 AI 晶片組支持的神經網路架構種類是有限的，落後於雲端可以完成的任務。透過幫助將模型，從一個平台導入到另一個平台，可以使用 Apache TVM 等編譯器工具鏈，來找到解決這些限制的方法。

使用在邊緣 AI 中運行良好的網路架構，然後針對特定目標平台，是將 AI 從雲端行動到邊緣的另一種方法。這種方法通常比跨平台編譯器方法做得更好，前提是訓練數據充滿了不同的元素，並且在比較絕對性能時有足夠的數量。但是，在預處理和後處理中需要手動完成。

小機器學習

圖片。Tiny ML 如何讓 AI 無處不在來源：福布斯

Cloud AI 和 Edge AI 的共同點

開發人員必須考慮雲端 AI 和邊緣 AI 之間的以下妥協或差異：

延遲：延遲是指從發送請求到收到響應所用的時間。雲端 AI 架構很快，但對於需要即時響應的應用來說還不夠快，例如在自動駕駛汽車中，需要立即響應以知道何時轉彎、剎車和加速。

連通性：自動駕駛汽車不能承受停機時間，尤其是在使用時，因為這會危及乘客，和其他道路使用者的安全。它必須始終處於連接狀態，因為即使是短暫的連接缺失，也可能導致車輛出現故障或完全停止工作。該應用和其他安全關鍵應用，需要邊緣 AI 提供的即時處理和持續連接。

處理能力：雲端提供比邊緣設備更強的處理能力，邊緣設備通常難以升級或更換。

安全性：邊緣設備提供更好的安全性和隱私性，因為數據儲存在現場，不需要將所有數據發送到雲端。出於安全和隱私考慮，某些應用（例如透過臉部或指紋辨識進行身份驗證）以及涉及醫療記錄，和其他私人資訊等敏感資訊的應用，最好在本地完成。

能源消耗：與邊緣設備不同，雲端運算幾乎不需要擔心能源消耗限制。

雲端 AI 和邊緣 AI 之間的重要區別之一，是數據的處理方式。透過 IoT（物聯網）框架處理數據的過程，在雲端上進行，這利用了通常距離生成或捕獲數據的設備，很遠的集中式伺服器。這些用於收集數據的設備，也用於執行低級處理。儘管雲端 AI 和邊緣 AI 之間存在差異，但使用其中一種並不妨礙使用另一種，因為它們相得益彰。

在邊緣運算設備中，處理能力駐留在設備上，並且由於不需要將所有數據都發送到雲端，因此只需將數據處理的結果，透過互聯網傳輸，這有助於降低所用頻寬的成本。