Keysight Edge Computing Solutions Unlock Your Networks Potential
雖然這是一篇業配文，但提到了邊緣運算很直得參考的資訊。其中又涉及資安、AI 的應用。《3S MARKET》提過好幾次，十多年來，很多國內外媒體一直在說「IP 是王道」，結果十幾年下來，IP 監控價格下滑超過九成，目前市場實際裝置量，全球大致 IP vs. Analog 仍未超過 3:7！
這篇報導看懂的人，就很清楚 IP 是王道必須根植在 IaaS 之上。還有近日許多大眾媒體，在談區間測速引發的中國監控設備與資安問題，根本扭曲了該探討的重點 ……
隨著運算能力轉向邊緣運算，NVIDIA 宣布了 EGX 平台和生態系統，包括伺服器供應商認證，混合雲合作夥伴，和新的 GPU Operato 軟體。
邊緣運算的需求迅速成長，因為人們越來越需要在創建數據的位置，分析和使用數據，而不是試圖將其發送回數據中心。新的應用不能等待數據一直傳輸到中央伺服器，不能等待數據被分析，然後等待結果返回。他們現在就需要在這裡分析數據！
為了滿足這一需求，NVIDIA 宣布擴展其 EGX 平台和生態系統，其中包括伺服器供應商認證，混合雲合作夥伴，以及新的 GPU Operator 軟體，這些軟體可為 GPU 伺服器，進行原生雲端佈署。隨著運算能力向邊緣發展，我們發現更智慧的邊緣運算需要更智慧的網路，因此 EGX 生態系統包括 Mellanox 的網路解決方案。
物聯網推動了邊緣運算的需求 - 由 5G 和 AI 推動
物聯網（IoT）、5G 無線和 AI 的成長，都在推動運算向邊緣移動。物聯網意味著更多（更智慧）的設備正在生成，和使用更多數據，但在現場，它與傳統數據中心相距甚遠。自動駕駛汽車、數位攝影機、資訊亭、醫療設備、建築物感測器、智慧收銀機、位置標籤，當然還有電話，很快就會從數十億個端點生成數據。需要收集、過濾和分析此數據，然後通常將提煉的結果，轉移到另一個數據中心，或其他地方的端點。
不經過任何邊緣處理，就將所有數據發送回數據中心，不僅增加了太多的延遲，而且通常還有太多的數據，無法透過 WAN 連接傳輸。有時，數據中心甚至沒有足夠的空間，來儲存來自邊緣的所有未過濾，未壓縮的數據。
5G 為邊緣帶來了更高的頻寬和更低的延遲，從而實現了更快的數據採集，和物聯網設備的新應用。以前無法收集或無法共享的數據，現在可以透過空中獲得。更快的無線連接能力，使新的應用可以在邊緣即時使用和響應數據，而不必等待數據集中儲存，然後再進行分析（如果需要分析的話）。
人工智慧意味著，可以從所有新數據中，獲取更多有用的資訊，從而快速做出決策。物聯網數據氾濫，無法被人類分析，它需要 AI 技術，才能將小麥與穀殼分離（即信號與噪聲分離）。然後，來自 AI 的決策和見解，可將應用同時饋送到中央數據中心的邊緣和後端。
NVIDIA EGX 在邊緣提供 AI
許多邊緣 AI 工作負載（例如圖像辨識，影像處理和機器人技術）需要強大的並行處理能力，而這是 NVIDIA GPU 所無法比擬的。為了滿足邊緣對更高級 AI 處理的需求，NVIDIA 推出了其 EGX 平台。 EGX 平台支持超大規模的 GPU 伺服器 - 從單個NVIDIA Jetson Nano系統到完整的NVIDIA T4或V100 Tensor Core 伺服器。Jetson Nano 每秒可提供多達五萬億次操作（1/2 TOPS），而一整套 T4 伺服器則可以每秒處理一萬億次操作（10,000 TOPS）。
NVIDIA EGX 還包括基於容器的工具，驅動程序和 NVIDIA CUDA-X 庫，以在邊緣支援 AI 應用。 EGX 得到主要伺服器供應商的支援，並包括與 Red Hat OpenShift 的整合，以基於 Kubernetes 提供企業級的容器編排。這是非常重要的，因為如此之多的邊緣運算位置（零售商店、醫院、無人駕駛汽車、房屋、工廠、手機等）將由企業、地方政府和電信公司支援，而不是由超大規模企業支援。
NVIDIA 宣布了新的 EGX 功能和客戶實施，以及對混合雲解決方案的強大支援。NGC-Ready 伺服器認證計劃已擴展，包括邊緣安全性和遠端管理測試，新的 NVIDIA GPU Operator 簡化了廣泛分佈的邊緣設備中，AI 的管理和操作。
更智慧的邊緣需要更智慧的網路
但是，還需要另一類技術和合作夥伴，來使 EGX 和邊緣化 AI 變得盡可能更智慧和更有效率：那就是網路。隨著邊緣處 GPU 處理能力的增加，和容器數量的增加，網路流量的數量也可能成倍增加。在 AI 之前，可分析的邊緣數據流量（不包括流向電話的流式圖形、影像和音樂）可能流入 95％ 的入站，例如從攝影機到數為錄影機，從汽車到伺服器，或者從零售店到中央數據中新。任何分析或見解，通常都是人為驅動的，因為人們只能集中精力觀察單個視訊流，或者將其儲存以備日後使用，從而無法做出即時決策。
現在，在邊緣佈署了諸如 EGX 之類的 AI 解決方案後，他們需要與 IoT 設備進行對話，再與數據中心的伺服器進行對話，並相互交流。 AI 應用使用標準 CPU 交易數據和結果，將邊緣數據與公司數據中心（或公有雲）中的數據進行合成，然後將結果推回資訊亭、汽車、設備、MRI 掃描儀和電話。
結果是在容器、IoT設備、GPU 伺服器、雲端和傳統的集中式伺服器之間，進行了大量的 N 向數據通信。軟體定義網路（SDN）和網路虛擬化，扮演著更大的角色。隨著駭客和惡意軟體的潛在攻擊面比以前大得多，並且無法包含在防火牆中，這種擴展的網路帶來了新的安全問題。
隨著網路變得越來越複雜，網路必須在許多方面變得更加智慧。例如：
1. 數據包必須在容器，VM 和裸機伺服器之間高效路由。
2. 網路功能虛擬化和 SDN 要求加快數據包交換速度，這可以在使用者空間，或內核空間中進行。
3. 使用 RDMA 要求在 NIC 上進行硬體卸載，並在交換機上進行智慧流量管理。
4. 安全性要求在靜止或飛行中，或同時對這兩種數據進行加密（加密的任何內容，也必須在某個時候解密）。
5. 物聯網數據的成長，以及從旋轉磁碟到閃存的轉變，要求對數據進行壓縮和重複數據刪除，以控制儲存成本。
這些日益增加的網路複雜性和安全問題，給邊緣伺服器，以及與它們連接的公司和雲端伺服器，帶來了越來越大的負擔。除非擁有正確的智慧網路，否則，借助更多的 AI 功能和更快的網路速度，處理網路虛擬化，SDN 規則和安全過濾，將浪費大量 CPU 週期。因此，隨著網路連接速度的加快，該網路的智慧必須在硬體中加速，而不是在軟體中運行。
SmartNIC 節省了邊緣運算週期
更智慧的邊緣運算需要更智慧的聯網，但是如果這種聯網由 CPU 或 GPU 處理，則透過行動數據，而不是分析和轉換數據，會消耗寶貴的週期。必須有人編碼和解碼覆蓋網路標頭，確定哪個數據包到達哪個容器，並確保遵循 SDN 規則。
軟體定義的防火牆和路由器，帶來了額外的 CPU 負擔，因為必需根據源、目標、標頭，甚至數據包的內部內容，對數據包進行過濾。然後根據網路規則轉發、鏡射、重新路由，甚至丟棄數據包。
幸運的是，有一類價格可承受的 SmartNIC，例如 Mellanox ConnectX 系列，可將所有這些工作從 CPU 上卸下。這些適配器具有硬體加速功能，可以處理覆蓋網路，遠端直接在內建記憶體上存取、容器網路、虛擬交換、儲存網路和視訊串流。它們還加快了網路塞車管理，和 QoS 的適配器端，最新的適配器（例如 Mellanox ConnectX-6 Dx）可以在硬體中高速執行嵌入式加密和解密，支持 IPsec 和 TLS。
透過 NIC 安全地完成這些重要，但重複的網路任務，邊緣的 CPU 和 GPU 可以彼此快速、高效率地，與設備彼此之間，和與 IoT 連接，同時將其核心週期集中在各自的優勢上 — 複雜的數據運行應用和並行處理。
BlueField IPU 增強了針對惡意軟體和過度工作的保護
IPU 或 I / O 處理單元（例如 Mellanox BlueField）是提高邊緣運算效率的更高級網路選項。IPU 將 SmartNIC 的所有高速網路，和卸載與可程式核心結合在一起，這些核心可以處理圍繞網路、儲存或安全性的其他功能。例如，一個 IPU 可以卸載 SDN 數據面和控制面功能；它可以虛擬化 CPU 或 GPU 的快閃記憶體；並且可以在單獨的場域中實施安全措施，以提供非常高階的惡意軟體防護。
在安全方面，諸如 BlueField 之類的 IPU 提供安全域隔離。沒有它，任何安全軟體都將在與 OS、容器管理和應用相同的場域中運行。如果攻擊者攻破了其中任何一個，安全軟體就有被繞過、刪除或損壞的風險。但是，借助 BlueField，安全軟體可以繼續在 IPU 上運行，在 IPU 上，它可以繼續檢測、隔離和報告，伺服器上的惡意軟體或漏洞。透過在受硬體信任根保護的單獨場域中運行，安全功能可以向入侵檢測和防禦機制發出警報，還可以防止受感染伺服器上的惡意軟體傳播。
最新的 BlueField-2 IPU 還添加了正則表達式（RegEx）搭配，可以快速檢測網路流量（或伺服器內存）中的模式，因此可用於威脅辨識。它還透過重複數據刪除（透過 SHA-2 哈希）和壓縮/解壓縮，來增加硬體卸載，以提高數據效率。
更智慧的邊緣需要更智慧的網路
隨著越來越多的 AI 解決方案（如 NVIDIA EGX 平台）在邊緣使用，邊緣變得更加智慧，但是當 IoT 和 5G 無線網路的成長需要時，網路和安全性也變得更加複雜，並威脅到伺服器的速度更多的運算能力。這可以透過佈署 SmartNIC 和 IPU （例如 Mellanox ConnectX 和 BlueField 產品系列）來解決。
這些網路解決方案，分擔了重要的網路和安全任務，例如 SDN、網路虛擬化和軟體定義的防火牆功能。這使邊緣的 AI 可以更有效綠、更安全地運行，因此，Mellanox 和 NVIDIA 很高興圍繞基於邊緣的解決方案進行合作。
 |
0 comments:
張貼留言