快科技6月14日舊金山現場報道:AI浪潮中,NVIDIA無疑是最大受益者,A100等加速卡供不應求,多年耕耘的成熟生態更是大大降低瞭開發難度和成本。

當然,Intel、AMD不會讓NVIDIA獨美,都在嘗試各自的方案,設計新的硬件產品。

Intel一方面是傳統的至強x86 CPU處理器,另一方面是基於Xe HPC高性能計算架構的GPU,首款產品Ponte Vecchio已經用於超級計算機,還在嘗試融合CPU+GPU,打造所謂的XPU,隻是首款產品Flacon Shores出師未捷,退回瞭純GPU方案,未來再沖擊CPU+GPU融合。

AMD在硬件層面的進展就順利多瞭,不但有越來越強悍的EPYC CPU處理器,Instinct系列加速卡也是每一代都在飛躍。

早在今年初,AMD就宣佈瞭新一代Instinct MI300,是全球首款同時集成CPU、GPU的數據中心APU。

現在,它的名字變成瞭Instinct MI300A,同時AMD還首次宣佈瞭全新的純GPU產品——“Instinct MI300X”。

Instinct MI300A號稱全球首款面向HPC、AI的APU加速器,基於AMD多年的成熟豐富經驗,實現瞭CPU、GPU的完美合體。

Instinct MI300A一共有多達13顆小芯片,其中計算部分9顆,都是5nm工藝制造。

CPU部分為Zen4架構,三顆CCD芯片,24個核心,GPU為最新的CDNA3架構,六顆XCD芯片,核心單元數量仍未公佈,還有128MB容量的HBM3高帶寬內存,可以為CPU、GPU所共享。

另外4顆芯片都是6nm工藝制造,是計算部分3D堆疊的基礎,作為有源中介層,可以處理I/O和其他各種功能。

整顆芯片有多達1460億個晶體管,超過瞭Intel 1000億個晶體管的Ponte Vecchio,而且後者隻有GPU。

標準的Socket獨立封裝(不是SP5),有瞭它就不再需要單獨的EPYC處理器,一顆芯片組就能構成一個完整的計算系統。

Instinct MI300X和前輩一樣是純GPU方案,其實就是把Instinct MI300A裡的那個CPU單元也換成瞭CDNA3 GPU單元,HBM3高帶寬內存也增加到瞭192GB,相當於NVIDIA H100 80GB的足足2.4倍。

同時,HBM內存帶寬高達5.2TB/s,Infinity Fabric總線帶寬也有896GB/s,同樣遠超NVIDIA H100。

晶體管數量進一步來到1530億個,跨越瞭1500億大關,嘆為觀止。

發佈會現場,AMD第一次公開展示瞭Instinct MI300X,實時輸出瞭一首關於舊金山的詩歌。

它單卡即可輕松運行400億參數的大語言模型,面對不同模型、參數規模所需的GPU數量相比競品更少,自然成本更低。

同時,AMD還宣佈瞭新的Instinct平臺,基於業界標準的OCP開放計算標準,八塊Instinct MI300X加速卡並行,可提供總計多達1.5TB HBM3內存。

Instinct MI300A現已出樣,Instinct MI300X將在第三季度出樣,相關產品預計第四季度上市。

MI300A

MI300X

Instinct平臺

【本文結束】如需轉載請務必註明出處:快科技

點讚(0) 打賞

评论列表 共有 0 條評論

暫無評論

微信小程序

微信扫一扫體驗

立即
投稿

微信公眾賬號

微信扫一扫加關注

發表
評論
返回
頂部