下愚不移網(wǎng)AMD實(shí)現(xiàn)處理器效能提升30倍！比原定時間提早一年
12月13日消息，實(shí)時間早在四年前，現(xiàn)處效AMD就曾設(shè)定目標(biāo)，理器到2025年EPYC系列服務(wù)器處理器和Instinct系列AI芯片的提升提早能效，較2020年提高30倍。倍比如今，原定MI300X AI芯片基本上實(shí)現(xiàn)目標(biāo)，實(shí)時間時間提了早一年。現(xiàn)處效
據(jù)THW報道，理器AMD兩個64核心EPYC 9575F CPU、提升提早八個Instinct MI300X AI芯片及2304GB DDR5內(nèi)存的倍比服務(wù)器，Llama3.1-70B（vLLM 0.6.1.post2、原定TP8）測試推理性能，實(shí)時間用一組復(fù)雜計算確定系統(tǒng)能源效率，現(xiàn)處效并與2020年的理器舊機(jī)器比較，
結(jié)果顯示，新機(jī)能源效率是舊機(jī)的28.3倍。
不過，AMD并未透露2020年的舊機(jī)是何規(guī)格。但大概率是EPYC 7002系列，Zen 2架構(gòu)，每個CPU最多64個核心，以及CDNA 1架構(gòu)Instinct MI100 AI芯片。
AMD表示，除了強(qiáng)力硬件改進(jìn)，更高性能效率是架構(gòu)進(jìn)步，加上軟件優(yōu)化結(jié)合，是跳躍式進(jìn)展。
今年10月份的Advancing AI 2024大會上，AMD正式發(fā)布了新款A(yù)I芯片——GPU加速卡“Instinct MI325X”。它在大獲成功的MI300X基礎(chǔ)上再進(jìn)一步，主要是增強(qiáng)了HBM內(nèi)存部分。
MI325X配備了多達(dá)256GB HBM3E內(nèi)存，相比于MI300X又增加了64GB。
MI325X也支持八塊并行組成一個平臺，這就有多達(dá)2TB HBM3E、48TB/s帶寬，總的性能高達(dá)FP16 10.4 PFlops(每秒1.04億億次)、FP8 20.8 PFlops(每秒2.08億億次)。
對比NVIDIA H200，無論單卡還是八卡平臺，不同大模型推理的性能都可以領(lǐng)先20-40％。
訓(xùn)練性能方面，單卡可領(lǐng)先H200 10％，八卡平臺則是持平。
MI325X加速卡和平臺將在四季度內(nèi)投產(chǎn)，而合作伙伴的整機(jī)系統(tǒng)、基礎(chǔ)架構(gòu)解決方案，將從明年第一季度起連續(xù)推出。
