3月21日消息,NVIDIA近日宣布了未來三代AI服務(wù)器,不但規(guī)格、性能越來越強(qiáng),HBM內(nèi)存也是同步升級(jí),容量、頻率、帶寬都穩(wěn)步前進(jìn)。
其中,基于GB300芯片的Blackwell Ultra NVL72今年下半年發(fā)布,繼續(xù)采用HBM3E內(nèi)存;明年下半年的Vera Rubin NVL144升級(jí)為下一代HBM4內(nèi)存;后年下半年的Rubin Ultra NVL576繼續(xù)升級(jí)為加強(qiáng)版HBM4E內(nèi)存;而到了2028年的Feynman全新架構(gòu)有望首次采用HBM5內(nèi)存。
與此同時(shí),SK海力士、三星、美光三大原廠也紛紛展示了自己的HBM內(nèi)存發(fā)展規(guī)劃,包括HBM4、HBM4e。
SK海力士如今作為HBM內(nèi)存的領(lǐng)袖,直接擺出了一顆48GB大容量的HBM4,是世界第一顆,也是最強(qiáng)的一顆。
它采用單Die 24Gb(3GB)的設(shè)計(jì),16Hi也就是16顆堆疊而成,數(shù)據(jù)傳輸率8Gbps,IO位寬2048-bit,也就是一顆的帶寬就有2TB/s。
美光的沒有做過多介紹,只是說性能比HBM3e提升了50%,而量產(chǎn)時(shí)間安排在2026年。
三星的資料最為詳盡,不但有具體參數(shù),還有規(guī)劃路線圖。
三星這次展示的HBM4密度也是單Die 24Gb,單顆容量則有36GB(12堆疊)、24GB(8堆疊)兩種,不如SK海力士。
不過,數(shù)據(jù)傳輸率最高9.2Gbps,帶寬最高2.3TB/s。
它采用MPGA封裝,尺寸12.8x11毫米,堆疊高度775微米,能效為每bit 2.3PJ。
對(duì)于下代HBM4E,三星規(guī)劃單Die容量提高到32Gb(4GB),支持8/12/16堆疊,因此單顆容量最大可以做到64GB,而且高度維持不變。
同時(shí)數(shù)據(jù)傳輸率提高到10Gbps,繼續(xù)搭配2048-bit位寬,帶寬可達(dá)2.56TB/s。
HBM內(nèi)存現(xiàn)階段和可預(yù)見的未來都會(huì)主要用于AI服務(wù)器,應(yīng)該是不會(huì)下放到消費(fèi)級(jí)顯卡了,當(dāng)年的AMD Fiji、Vega恐怕成為絕唱。
目前,中國在DRAM內(nèi)存、NAND閃存方面都已經(jīng)基本追上了國際領(lǐng)先水平或者差距不大,HBM則還需要大大努力。
消息稱,多家中國廠商已經(jīng)搞定了第二代HBM2,并已供貨給客戶,搭配國產(chǎn)AI GPU加速器,倒也相得益彰。