(相關(guān)資料圖)
Nvidia在其GTC 2023年春季主題演講中宣布了一個(gè)新的雙GPU產(chǎn)品，H100NVL。這不會(huì)帶來(lái)SLI或多GPU游戲的回歸，也不會(huì)是最好的游戲顯卡之一，而是針對(duì)不斷增長(zhǎng)的AI市場(chǎng)。從Nvidia發(fā)布的信息和圖片來(lái)看，H100NVL(H100 NVLink)將在頂部采用三個(gè)NVLink連接器，相鄰的兩塊卡可插入獨(dú)立的PCIe插槽。
這是一個(gè)有趣的變化，顯然是為了適應(yīng)不支持Nvidia的SXM選項(xiàng)的服務(wù)器，重點(diǎn)是推理性能而不是訓(xùn)練。NVLink連接應(yīng)該有助于提供NVSwitch在SXM解決方案上提供的缺失帶寬，而且還有一些其他明顯的區(qū)別。
以規(guī)格為例。以前的H100解決方案--包括SXM和PCIe--都配備了80GB的HBM3內(nèi)存，但實(shí)際包裝包含六個(gè)堆棧，每個(gè)堆棧有16GB的內(nèi)存。目前還不清楚是否有一個(gè)堆棧被完全禁用，或者是用于ECC或其他目的。我們所知道的是，H100NVL每個(gè)GPU將有94GB，總共有188GB HBM3。我們認(rèn)為每個(gè)GPU "缺少 "的2GB是為了ECC。
關(guān)鍵詞：
