NVIDIA DEVELOPER



智慧空間正在創造前所未有的價值，在實體世界和數位世界之間創造持續的資訊流。


透過在邊緣運算中融入物聯網 (IoT)、雲端運算、機器學習和人工智慧等技術，世界一流的企業可以捕獲數位資料，並將其轉化為確實可行的洞察。


然而，由於邊緣環境分佈在封閉資料中心範圍之外，需要跨多個地點進行管理，因此此過程非常複雜。


工業嵌入式快閃記憶體和 DRAM 解決方案供應商宜鼎國際 (Innodisk) ，在為其子公司安提國際 (Aetina) 打造智慧工廠時，致力於解決這些問題。宜鼎國際與 NVIDIA 緊密合作，致力於為工業環境建立高效能端到端視覺人工智慧解決方案。


人工智慧專案分為兩個階段：人工智慧模型開發和人工智慧模型佈署。本報導探討了與這兩個階段相關的常見挑戰，以及宜鼎國際如何利用不同的工具和技術來應對這些挑戰。


上敦 AXXON 台灣總代理


開發人工智慧模型

該專案始於開發一種能夠滿足嚴格品質生產標準的產品檢測解決方案。宜鼎國際生產的快閃記憶體和動態隨機存取記憶體 (DRAM) 產品，體積小巧，結構複雜，專為嚴苛環境和應用而設計。


宜鼎國際需要一種能夠快速處理，高解析度影像辨識任務的解決方案，並面臨著開發邊緣 AI 模型時，面臨的幾個常見問題的挑戰。這些問題包括原始資料不足、資料處理時間過長、模型訓練成本高、運算能力需求高，以及驗證模型是否已準備好佈署。


安提國際使用 NVIDIA AI Enterprise 提供的 NVIDIA TAO 工具包，在短短幾天內，就根據宜鼎國際的需求，量身訂製了可用於生產的 AI 模型。這通常需要數月時間，但他們透過微調 NVIDIA 預訓練模型（而不是從頭開始訓練模型）來加快流程。


訓練完成後，模型被整合到應用程式中。安提國際將應用程式容器化，以便在邊緣佈署。然後，他們將客製化的容器，上傳到其私有註冊表。


佈署 AI 模型

應用程式最終確定後，下一步是找到大規模佈署和管理的解決方案。


他們轉向雲端原生技術，來管理其邊緣佈署。在本例中，他們使用了 Kubernetes（一個用於容器化應用程式的開源系統），並創建了 Helm Chart 來佈署應用程式。


透過 NVIDIA TAO 工具包，安提國際快速從模型開發階段，轉移到佈署階段。然而，模型佈署也帶來了複雜性。企業經常面臨佈署時間長、安全性問題，以及高昂的佈署和監控成本等問題。


Fleet Command 是一個用於容器編排的託管平台，可簡化邊緣系統和 AI 應用程式的配置和佈署。應用程式佈署後，透過無線應用程式更新、遠端監控和管理，以及嚴格的資料保護（防止資料外洩和偽造），AI 生命週期得以簡化。


圖 1. NVIDIA Fleet Command 已在多個地點和產業使用


完善端到端 AI 工作流程

借助這套視覺 AI 解決方案，宜鼎國際現在能夠在不到 1 秒的時間內完成精準檢測，從而能夠高效且經濟地生產更多產品。


此前，宜鼎國際依靠駐紮在生產線上的人工檢測員，完成同樣的任務需要 10 秒。而有了這套解決方案，工廠工人得以從單調乏味的工作中解放出來，專注於更重要的工作。


圖 2. 從模型開發到佈署的完整解決方案


這個過程也促使安提國際建構了一個端到端解決方案，其他組織可以使用該解決方案，將其環境轉變為智慧空間。


如需了解更多關於此解決方案的資訊，請觀看 GTC 點播會議「端到端智慧工廠 AI 應用：從模型開發到與安提國際的佈署」。