黃仁勳:輝達打造人工智慧工廠和資料中心,台灣夥伴扮演重關鍵角色

新聞媒體 2024-06-03
黃仁勳:輝達打造人工智慧工廠和資料中心,台灣夥伴扮演重關鍵角色

輝達創辦人暨執行長黃仁勳在其 COMPUTEX Taipei 2024 主題演講中宣布,永擎電子、華碩、技嘉、鴻佰科技、英業達、和碩、雲達科技、美超微、緯創資通及緯穎科技將利用輝達 GPU 和網路技術,推出雲端、本地端、嵌入式和邊緣 AI 系統。

黃仁勳指出,下一次工業革命已經展開。企業與國家正在與輝達合作,將耗資上兆美元的傳統資料中心改為採用加速運算技術,並且建立新型資料中心,也就是 AI 工廠,以生產新的商品,那便是AI。從伺服器、網路和基礎設施製造商,再到軟體開發商,整個產業上下都在為迎接 Blackwell 架構做好準備,以加速各個領域由AI驅動的創新。

為滿足各種類型的應用需求,產品範圍將從單一 GPU 到多 GPU、從 x86 架構到採用 Grace 架構的處理器,以及從氣冷技術再到液冷技術。為加快發展不同大小規模和配置的系統,輝達MGX 模組化參考設計平台現在還支援輝達Blackwell 架構的產品。其中包括全新的輝達GB200 NVL2 平台,該平台專為主流大型語言模型推論、檢索增強生成及資料處理提供無與倫比的效能。

而GB200 NVL2 非常適合用於資料分析等新興市場商機,企業每年在這些領域的支出高達數百億美元。利用 NVLink-C2C 晶片互連技術提供的高頻寬記憶體效能,以及 Blackwell 架構中的專用解壓縮引擎,將資料處理速度提高了 18 倍,能源使用效率比使用 x86 CPU 提高了 8 倍。另外,為滿足全球資料中心多樣化的加速運算需求,輝達 MGX 平台為電腦製造商提供了一個參考架構,能夠快速且以高成本效益構建出百餘種系統設計配置。

黃仁勳表示,製造商從伺服器主機殼的基本系統架構開始,然後選擇 GPU、DPU 和 CPU,以處理不同的工作負載。迄今已有超過 25 家合作夥伴已推出或正在開發 90 多套利用 MGX 參考架構的系統,而 2023 年即有 6 家合作夥伴推出 14 套系統。使用 MGX 參考架構有助於將開發成本降低四分之三,將開發時間縮短三分之二,只要六個月即可完成。

AMD 與 Intel 皆支援 MGX 架構,並計畫首次提供自家的 CPU 主機處理器模組設計。這包括新一代 AMD Turin 平台和搭載 P 核心的 Intel Xeon 6 處理器(原開發代號為 Granite Rapids)。任何伺服器系統建構商都可以使用這些參考設計來節省開發時間,同時確保設計與效能的一致性。

而輝達最新的 GB200 NVL2 平台同樣採用 MGX 參考架構和 Blackwell 架構。其橫向擴展的單節點設計支援多種系統配置方式和網路選項,可完美將加速運算技術與現有的資料中心基礎設施進行整合。GB200 NVL2 加入了 Blackwell 架構的產品陣容,當中包括輝達 Blackwell Tensor 核心 GPU、GB200 Grace Blackwell 超級晶片及 GB200 NVL72平台。

輝達全方位的合作夥伴生態系包括全球領先的半導體製造商,也是輝達代工合作夥伴的台積電,以及為打造 AI 工廠提供關鍵零組件的全球電子製造商。其中,包括安費諾 (Amphenol)、奇鋐科 技(AVC)、訊凱國際 (Cooler Master)、Colder Products Company( CPC)、丹佛斯 (Danfoss)、台達電子,以及光寶科技等業者提供的伺服器機架、電力輸送、冷卻解決方案等製造方面的創新項目。如此一來便能利用領先系統製造商戴爾科技集團、慧與科技及聯想所推出的伺服器產品,快速開發及部署新的資料中心基礎架構,以滿足全球企業的需求,並透過應用 Blackwell 技術、輝達 Quantum-2 或 Quantum-X800 InfiniBand 網路、輝達 Spectrum-X 乙太網路,還有輝達 BlueField-3 DPU 等技術進一步加速。

企業還可以使用包含輝達 NIM 推論微服務在內的輝達 AI Enterprise 軟體平台,以建立和運行生產級生成式 AI 應用程式。

黃仁勳在主題演講中還宣布台灣的領先企業正迅速採用 Blackwell 架構,將 AI 的強大力量用在處理自家業務。包括台灣的大型醫療中心長庚紀念醫院計畫利用輝達 Blackwell 運算平台推動生物醫學研究、加速成像和語言應用等領域的發展,以改善臨床工作流程,最終強化病患照護。

另外,全球最大電子產品製造商之一的鴻海科技集團計畫利用輝達 Grace Blackwell 架構技術開發智慧解決方案平台,用於由 AI 技術驅動的電動車和機器人平台,以及數量日漸增加的語言式生成式 AI 服務,為客戶提供更加符合個人使用需求的體驗。

(首圖來源:科技新報攝)

從這裡可透過《Google 新聞》追蹤 TechNews

Google News

關注我們

NOTICE US

送出