NVIDIA 與虛擬化大廠 VMWare 在 GPU 技術邁入虛擬化世代後就有著緊密的合作關係,雙方在 2020 年末更進行深度合作,打造新一代數據中心硬體 BlueField-2 DPU ,而稍早再度宣布攜手,將 NVIDIA AI Enterprise 軟體套件納入 VMware vSphere 7 Update 2 ,並透過 NVIDIA 的認證計畫,為企業打造具 AI 與數據科學運算,並具備橫向擴展與相容的混合雲。
▲最新版 vSphere 將 NVIDIA AI 工具整合並加以最佳化
藉由將 NVIDIA AI Enterprise 軟體套件納入 VMware vSphere 7 Update 2 ,企業得以在 vSphere 虛擬化環境下以 CUDA 運算為基礎、為 AI 框架、模型、 SDK 挹注橫向擴展、多節點與相容性,而 AI 研究員、數據科學家、開發者能夠在熟悉的 AI 軟體之下進行開發, IT 人員亦能使用熟悉的管理軟體為企業導入 AI 架構。
▲ NVIDIA AI Enterprise 預先具備多領域的 AI 工具與框架
當前 NVIDIA AI Enterprise 具備各領域的企業 AI 工具與框架,諸如製造、物流、金融、零售、醫療保健等,能為企業降低導入 AI 的複雜性,同時避免因手動導入產生的不相容與不易管理的問題,迅速為企業帶來基於 AI 的智慧化應用,例如自動檢測、智慧工廠、防詐騙等相關應用。
而透過 VMware vSphere 7 Update 2 與 NVIDIA AI Enterprise 結合,企業用戶除了能夠享有 NVIDIA AI Enterprise 帶來的多元 AI Ready 、高度相容性以外,亦能透過 vSphere 虛擬化環境帶來企業 IT 人員熟悉的管理性,並降低 Shadow AI 部屬的風險,並使數據科學家、機器學習工程師在既有的 IT 生態外取得可用資源。
▲在雙方合作下,即使是於虛擬環境效能亦與真實主機相近
同時, NVIDIA AI Enterprise 在 vSphere 的虛擬化環境可實現媲美真實主機的執行效能,且若搭載 NVIDIA A100 GPU ,除了能兼具 AI 、數據科學應用外,還能達到驚人的性能表現;此外過往僅能在單一節點執行的工作負載,現在不只可進行跨節點執行,還可在 VMware Cloud Foundation 執行大型深度學習模型訓練。
▲雙方合作協助企業輕鬆在虛擬環境部屬與管理 AI
當前 VMWare 更是唯一能使用 NVIDIA A100 的 NVIDIA Multi-Instance GPU ( MIG ) 技術的虛擬化軟體,能夠借助 MIG 於每個 NVIDIA A100 進行 7 個硬體級實例的執行,可大幅提升各類工作負載效率。
0 則回應