NVIDIA今日宣布推出第四代NVIDIA DGX系統,這是全球首個基于全新NVIDIA H100 Tensor Core GPU的產品。
DGX H100系統能夠滿足大型語言模型、推薦系統和氣候科學的大規模計算需求。
每個DGX H100系統配備八塊NVIDIA H100 GPU,并由 NVIDIA NVLink連接,能夠在新的FP8精度下達到32 Petaflop,比上一代系統高6倍。
DGX H100系統是新一代NVIDIA DGX POD和NVIDIA DGX SuperPOD AI基礎設施的構建模塊。
新的DGX SuperPOD架構采用了一個全新的NVIDIA NVLink Switch系統,通過這一系統最多可連接32個節點,總計256塊H100 GPU。
新一代DGX SuperPOD提供1 Exaflops的FP8 AI,比上一代產品高6倍,能夠運行具有數萬億參數的龐大LLM工作負載,從而推動AI的前沿發展。
NVIDIA創始人兼首席執行官黃仁勛表示:
“AI已經從根本上改變了軟件的功能和產出方式。利用AI來革新自身所處行業的公司也意識到了自身AI基礎設施的重要。
NVIDIA全新DGX H100系統將賦能企業AI工廠,助力其從數據中提煉出我們最具價值的資源,即‘智能’。"
關鍵詞: