11月20日消息,布顆SuperComputer 2024超算大會上,兩顆NVIDIA公布了一系列新產(chǎn)品、耗達(dá)新技術(shù),布顆其中最亮眼的兩顆當(dāng)屬“GB200 NVL4”計算平臺,也是耗達(dá)其SuperChip超級芯片家族的一員。
這是布顆一套單服務(wù)器解決方案,在一塊不大的兩顆板子上,集成了四顆Blackwell GB200 GPU芯片、耗達(dá)兩顆Grace CPU芯片,布顆彼此通過NVLink總線高速互聯(lián)。兩顆
四顆Blackwell共擁有768GB HBM3內(nèi)存,耗達(dá)合計帶寬32TB/s,布顆兩顆Grace GPU則有960GB LPDDR5X內(nèi)存。兩顆
二者合計,耗達(dá)就是恐怖的1.7TB!
該方案適合HPC、AI混合負(fù)載應(yīng)用,號稱對比上代GH200 NVL4,訓(xùn)練和圖里性能高1.8倍,模擬性能高2.2倍。
當(dāng)然代價就是極高的功耗,總計不可思議的5400W——一個小時5.4度電。
如果不需要 這么彪悍的方案,NVIDIA也早就提供了兩顆Blackwell GB200 GPU芯片、一顆Grace GPU芯片的版本,規(guī)模減半,當(dāng)然功耗也要2700W。
作者:知識