
亞馬遜網路服務(AWS)計畫以折扣價,提供搭載自研 Trainium 晶片的 AI 伺服器,這是與輝達(NVIDIA)H100 晶片具有相同運算能力的晶片,但價格僅為其 25%,法人看好價格戰有利需求動能,帶動企業用戶訂單增加,緯創、廣達、英業達有望受惠。
AWS 為長期雲端客戶提供與輝達 H100 晶片具有相同運算能力的晶片,搭載 Trainium 晶片的伺服器,價格僅為 H100 晶片的 25%,而各大科技巨頭都開始研發自己內部 AI 晶片,包括 Google 和微軟(Microsoft)。
過去十多年來,AWS 一直透過其雲端服務為輝達 GPU 提供運算能力,並提供英特爾(Intel)和超微(AMD)處理器,以及其內部晶片,但由於功能更強大的處理器和專有程式語言 Cuda,使輝達占據主導地位。
從輝達轉向 Trainium 的開發人員,可能必須重新進行軟體編碼,並確保 AI 模型在新晶片上仍能產生類似的結果,而 AWS 計劃以折扣價,提供搭載自研 AI Trainium 晶片的伺服器,意味著即將掀起價格競爭大戰。
從客戶的角度來看,蘋果一直是 Trainium 晶片最初採用者及測試者,並已採用 AWS 的 Inferentia 和 Graviton 晶片支援搜尋服務,更將考慮採用 Trainium2 晶片來預訓練自家專屬模型,還有 AI 新創 Anthropic 採用 Trainium2 晶片,優化其生成式 AI 模型 Claude 的訓練。
法人表示,今年特殊應用 IC(ASIC)伺服器需求將持續轉強,預估 AWS 的 ASIC 伺服器出貨量將成長超過四成,其中緯創為 AWS Trainium 平台 AI 伺服器主機板(L6)供應商,旗下緯穎獨家供應機櫃組裝測試與整機系統(L10、L11),廣達、英業達為 AWS 的 AI 伺服器協力廠,可望受惠。
(首圖來源:Flickr/Web Summit CC BY 2.0)
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡
想請我們喝幾杯咖啡?

每杯咖啡 65 元




您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認從這裡可透過《Google 新聞》追蹤 TechNews
