AI晶片龍頭輝達在其最主要客戶的大型雲端服務業者致力開發ASIC加速晶片,建置自有AI伺服器基礎設施,在中長期上將成為輝達AI發展的潛在競爭對手。圖/ 美聯社
AI晶片龍頭輝達在其最主要客戶的大型雲端服務業者致力開發ASIC加速晶片,建置自有AI伺服器基礎設施,在中長期上將成為輝達AI發展的潛在競爭對手。圖/ 美聯社

NVIDIA將往外拓展更多元完整的AI解決方案
NVIDIA將往外拓展更多元完整的AI解決方案

NVIDIA積極建構自有AI與HPC伺服器整造解決方案
NVIDIA積極建構自有AI與HPC伺服器整造解決方案

人工智慧(AI)晶片龍頭 輝達(NVIDIA)高營收成長動力來自資料中心AI伺服器相關解決方案業務,未來將進一步整合軟硬體資源,並將其高階和中低階GPU AI加速晶片,與各ODMs/OEMs綁定合作軟硬體系統認證模式。不過,現為最主要AI客戶的大型雲端服務業者也致力開發ASIC加速晶片,建置自有AI伺服器基礎設施,在中長期上將成為輝達AI發展的潛在競爭對手。

■積極拓展AI伺服器軟硬整合方案

在AI伺服器高度發展態勢下,身為市場領頭羊的輝達除了發展自家DGX等AI伺服器整機方案外,另外積極推動英業達、廣達、工業富聯等ODMs,或如戴爾、HPE、Supermicro等OEMs,依其發布的HGX或MGXAI伺服器參考設計,得通過輝達的相關AI軟硬體認證過程。輝達藉此整合各種晶片如Arm CPU、GPU與NPU等,提供更彈性與更多元軟硬體解決方案。

輝達近年在AI裡領域已漸從GPU領先基礎,跨至Arm CPU、伺服器周邊DPU晶片開發,以及高度整合的AI/HPC伺服器DGX,進一步踏入伺服器系統雲端整合商,例如DGX AI Foundations服務等,促使輝達經營商業模式變化,從以往一次性AI硬體收入方式,進一步發展成更彈性或符合長期發展考量的雲端訂閱模式。

隨著ChatBOT應用蓬勃發展,AI伺服器組態從一台搭載4~8張A100和H100,於2023下半年逐步擴展至各專業領域開發市場,使每台搭配2~4張GPU等型態的AI伺服器需求漸增,在高單價ASP下,成為帶動輝達營收成長的主要來源。

TrendForce預期,邊緣AI伺服器未來成長主要關鍵,對較小規模的廠商來說,對各應用領域較小型的LLM模型,可用輝達相較訴求高C/P值、低價的L40S或L4等去主攻此市場。此外,輝達也考量DGX等整合型AI伺服器,雖性能高但價格也昂貴,未來可利用具彈性的租賃服務方式,降低各AI應用領域如電商、金融、製造、醫療、交通等進入AI領域門檻。

■ODM與OEM業者可望跟隨輝達成長

預期隨著雲端和邊緣各種AI伺服器應用服務發展,也將帶動相關AI供應鏈發展,尤其2023年雲端AI伺服器以搭載輝達高階GPU如A100、H100為大宗。在高階AI伺服器方面,又以輝達提出參考設計,以二顆CPU搭配八顆高階A100或H100的DGX AI伺服器或HGX AI伺服器參考架構為主流。其中,DGX和HGX主要差別在DGX主打輝達自有品牌的AI伺服器解決方案,HGX則由輝達提供參考設計版,ODM/OEM可依終端客戶需求設計自有AI伺服器方案。

以DGX或HGX H100為例,在搭載多顆GPU下,尤其對整體AI伺服器的高速網通互連能力,或散熱系統設計上將有較嚴苛需求,估其至少為傳統常見2路伺服器耗能約3~4倍以上,多家該類AI伺服器系統設計多逾10kW。

故隨著AI伺服器高度成長,除了將帶起伺服器ODMs或OEMs如緯創、工業富聯、英業達、廣達、緯穎、Supermicro、技嘉、戴爾等成長趨勢外,也將帶動其他AI伺服器供應鏈如高速網通裝置、散熱和冷卻系統、電源管理IC或其他網通及I/O等廠商的成長動能。

■大型CSP客戶自研開發,未來恐成對手

微軟在ChatGPT AI應用熱潮下,2023年整合旗下Bing、Office發展Copilot,積極採購雲端AI伺服器。而Google、AWS等除了輝達GPU外,也將同步擴大導入搭載自研ASIC AI晶片基礎設施,帶動AI伺服器2023年出貨成長近35%,比一般運算、儲存伺服器具顯著較佳成長動能。同時,各產業如金融、商務、雲端、車用等服務陸續導入生成式AI技術發展,預期2024年後AI伺服器市場將更明顯分為兩大陣營:

一、採外購GPU如輝達、超微(AMD)等AI加速晶片;二、雲端廠商自研晶片如Google、AWS推自研ASIC AI加速晶片。

其中,由雲端廠商自主研發的AISC晶片,2023年在Google欲與微軟競逐AI搜尋引擎平台和各種衍生服務應用下,下半年尤為積極擴大自研TPU晶片導入AI伺服器基礎設施,推升整體ASIC AI伺服器占整體比例將逾24%,預估AWS 2024年後也將針對AI訓練和AI推論應用,更投入拓展ASIC AI加速晶片發展,將成為GPU外重要成長動能,其他相繼投入者還有微軟、Meta乃至特斯拉(Tesla)等,也可能成為輝達業務拓展上潛在威脅。

#成長 #DGX #輝達 #AI伺服器 #晶片 #GPU #ODM #OEM #英業達 #技嘉 #廣達 #緯穎