6月14日舊金山現(xiàn)場報(bào)道：AI浪潮中，NVIDIA無疑是最大受益者，A100等加速卡供不應(yīng)求，多年耕耘的成熟生態(tài)更是大大降低了開發(fā)難度和成本。

當(dāng)然，Intel、AMD不會(huì)讓NVIDIA獨(dú)美，都在嘗試各自的方案，設(shè)計(jì)新的硬件產(chǎn)品。

Intel一方面是傳統(tǒng)的至強(qiáng)x86 CPU處理器，另一方面是基于Xe HPC高性能計(jì)算架構(gòu)的GPU，首款產(chǎn)品Ponte Vecchio已經(jīng)用于超級計(jì)算機(jī)，還在嘗試融合CPU+GPU，打造所謂的XPU，只是首款產(chǎn)品Flacon Shores出師未捷，退回了純GPU方案，未來再?zèng)_擊CPU+GPU融合。

AMD在硬件層面的進(jìn)展就順利多了，不但有越來越強(qiáng)悍的EPYC CPU處理器，Instinct系列加速卡也是每一代都在飛躍。

早在今年初，AMD就宣布了新一代Instinct MI300，是全球首款同時(shí)集成CPU、GPU的數(shù)據(jù)中心APU。

現(xiàn)在，它的名字變成了Instinct MI300A，同時(shí)AMD還首次宣布了全新的純GPU產(chǎn)品——“Instinct MI300X”。

Instinct MI300A號稱全球首款面向HPC、AI的APU加速器，基于AMD多年的成熟豐富經(jīng)驗(yàn)，實(shí)現(xiàn)了CPU、GPU的完美合體。

Instinct MI300A一共有多達(dá)13顆小芯片，其中計(jì)算部分9顆，都是5nm工藝制造。

CPU部分為Zen4架構(gòu)，三顆CCD芯片，24個(gè)核心，GPU為最新的CDNA3架構(gòu)，六顆XCD芯片，核心單元數(shù)量仍未公布，還有128GB容量的HBM3高帶寬內(nèi)存，可以為CPU、GPU所共享。

另外4顆芯片都是6nm工藝制造，是計(jì)算部分3D堆疊的基礎(chǔ)，作為有源中介層，可以處理I/O和其他各種功能。

整顆芯片有多達(dá)1460億個(gè)晶體管，超過了Intel 1000億個(gè)晶體管的Ponte Vecchio，而且后者只有GPU。

標(biāo)準(zhǔn)的Socket獨(dú)立封裝(不是SP5)，有了它就不再需要單獨(dú)的EPYC處理器，一顆芯片組就能構(gòu)成一個(gè)完整的計(jì)算系統(tǒng)。

Instinct MI300X和前輩一樣是純GPU方案，其實(shí)就是把Instinct MI300A里的那個(gè)CPU單元也換成了CDNA3 GPU單元，HBM3高帶寬內(nèi)存也增加到了192GB，相當(dāng)于NVIDIA H100 80GB的足足2.4倍。

同時(shí)，HBM內(nèi)存帶寬高達(dá)5.2TB/s，Infinity Fabric總線帶寬也有896GB/s，同樣遠(yuǎn)超NVIDIA H100。

晶體管數(shù)量進(jìn)一步來到1530億個(gè)，跨越了1500億大關(guān)，嘆為觀止。

發(fā)布會(huì)現(xiàn)場，AMD第一次公開展示了Instinct MI300X，實(shí)時(shí)輸出了一首關(guān)于舊金山的詩歌。

它單卡即可輕松運(yùn)行400億參數(shù)的大語言模型，面對不同模型、參數(shù)規(guī)模所需的GPU數(shù)量相比競品更少，自然成本更低。

得益于超大的HBM3內(nèi)存，這個(gè)大模型，其實(shí)就是完全在HBM3內(nèi)存中運(yùn)行的，無需使用系統(tǒng)內(nèi)存，自然節(jié)省了數(shù)據(jù)的傳輸與拷貝，從而大大降低延遲、提升性能。

同時(shí)，AMD還宣布了新的Instinct平臺，基于業(yè)界標(biāo)準(zhǔn)的OCP開放計(jì)算標(biāo)準(zhǔn)，八塊Instinct MI300X加速卡并行，可提供總計(jì)多達(dá)1.5TB HBM3內(nèi)存。

Instinct MI300A現(xiàn)已出樣，Instinct MI300X將在第三季度出樣，相關(guān)產(chǎn)品預(yù)計(jì)第四季度上市。

?