AMD Instinct MI300C: En anpassad Epyc-processor med 128 GB HBM3 för Microsoft 40 kommentarer
Bild: AMD
På SC24/Ignite lanserade Microsoft Azure den första Zen 4-processorn med HBM3 under namnet Epyc. Bakom detta ligger den produkt som senast kallas Instinct MI300C: AMD hade redan nämnt denna variant som ett framtida alternativ 2023. För närvarande är den anpassade 4:e generationens Epyc-processor fortfarande ganska exklusiv.
På söndagen, när chefen för AMD:s datacenteravdelning var på plats vid presentationen av den snabbaste nya superdatorn, El Capitan, nämnde AMD kort MI300C som ett möjligt alternativ. Han ville nog inte och fick inte avslöja att det var officiellt förrän två dagar senare och sa helt enkelt ”du kanske hör något om det senare” – så ett tillkännagivande i framtida stängning nämndes redan där.
Vad är Instinct MI300C?
MI300 (MI300X & MI300A (Detaljer)) är en accelerator för den högpresterande datormiljön och i synnerhet för den för närvarande blomstrande artificiell intelligens (AI)-sektorn. Detta innebär inte bara anpassningar till redan kända arkitekturer (CDNA); Allt är också förpackat i ett så kallat 3.5D-paket. För att göra detta använder AMD den välkända 2.5D-chipdesignen, tillgänglig i flera år i form av grafikkretsar med HBM precis bredvid, men inte bara går det bokstavligen ännu längre med den extra 3D-staplingen, så att den färdiga produkten vilar på en 3,5D stack.
Arkitektur för AMD Instinct MI300-familjen (Bild: AMD)
Basplattan, om man vill uttrycka det så, är I/O-matrisen. Fyra av dem ligger bredvid varandra. Antingen är de faktiska GPU/XCD-matriserna eller CPU-chipsen installerade på dem. I en MI300A finns det sex XCD:er och tre CCD:er.
Arkitektur för AMD Instinct MI300-familjen (Bild: AMD)
Byt ut GPU med CPU-kretsuppsättningar
För en MI300C byts nu XCD:erna (GPU-enheterna) ut mot ytterligare CCD-block, eftersom det i MI300A bara finns tre med åtta kärnor vardera. 24 Zen 4-kärnor blir totalt 96 kärnor. Resten förblir nästan detsamma. Detta inkluderar även 128GB HBM3-minne som ingår i paketet. MI300C är i huvudsak en Epyc-processor med HBM3.
I praktiken med faktiskt 88 kärnor och utan SMT
I praktiken blir teorin dock lätt olika parametrar beroende på avsedd användning. I Azure HBv5 Virtual Machine använder Microsoft fyra av dessa lösningar i en kvartett. Dock är endast 88 kärnor tillgängliga per CPU; åtta kärnor tar vardera hand om operativsystemet och hanteringen för att allt ska fungera smidigt. Det finns fyra av dessa processorer på ett enda kort, klockade till maximalt 4 GHz, vilket ger 352 kärnor totalt.
HBv5 virtuell maskin (Bild: Azure)
Huruvida SMT också inaktiverades beror på den avsedda användningen i VM-området, men också det maximala möjliga minnesbandbreddsmålet. Nästan 7 TB per sekund är sällsynt på marknaden. Dessa implementeras med maximalt 400 till 450 GB HBM3, skriver Azure, och återigen ligger de under det teoretiska maximumet på 512 GB.
Grundläggande tekniska data inkluderar:
6,9 TB/s minnesbandbredd (STREAM Triad) på 400 till 450 GB RAM (HBM3) Upp till 9 GB minne per kärna (kundkonfigurerbar) Upp till 352 AMD EPYC ”Zen4”-processorkärnor ”, 4 GHz toppfrekvenser (kundkonfigurerbar) Infinity Fabric 2X total bandbredd över processorer jämfört med vilken plattform som helst av AMD EPYC™-servrar hittills. SMT inaktiverad, design med endast en klient (1 virtuell dator per server)800 Gbps NVIDIA Quantum-2 InfiniBand, balanserad till 200 Gbps per SoCAAzure VMSS Flex-processor för att skala MPI-arbetsbelastningar till hundratusentals CPU-kärnor som drivs av HBM160 Gbps av Azure-accelererat nätverk via en 2:a generationens Azure Boost NIC14 TB lokal NVMe SSD-leverans upp till 50 GB/s läs- och 30 GB/s skrivbandbredd
Det tillkännagavs på SC24-mässan i Atlanta att dessa AMD-processorer inte skulle vara tillgängliga som en allmän lösning; för närvarande kommer de att förbli exklusiva för Azure.
Ämnen: AMD AMD Genoa Epyc HBM Instinct Processors SC24 Server Supercomputer Economy Zen Källa: Microsoft
Marc analyserar processorer genom att testa deras prestanda för spel, innehållsskapande och artificiell intelligens.
