AMD Instinct MI300C: En brugerdefineret Epyc-processor med 128 GB HBM3 til Microsoft 40 kommentarer
Billede: AMD
På SC24/Ignite lancerede Microsoft Azure den første Zen 4-processor med HBM3 under navnet Epyc. Bag dette er det produkt, der senest er kendt som Instinct MI300C: AMD havde allerede nævnt denne variant som en fremtidig mulighed i 2023. Indtil videre er den brugerdefinerede 4. generation Epyc-processor stadig ret eksklusiv.
Søndag, da lederen af AMD’s datacenterdivision var til stede ved præsentationen af den hurtigste nye supercomputer, El Capitan, nævnte AMD kort MI300C som en mulig mulighed. Det ville han nok ikke og måtte først afsløre, at det var officielt to dage senere og sagde blot „du hører måske noget om det senere‟ – så en meddelelse i fremtiden tæt var allerede nævnt der.
Hvad er Instinct MI300C?
MI300 (MI300X & MI300A (Detaljer)) er en accelerator til det højtydende computermiljø og især for den aktuelt blomstrende kunstig intelligens (AI) sektor. Dette involverer ikke kun tilpasninger til allerede kendte arkitekturer (CDNA); Alt er desuden pakket i en såkaldt 3.5D-pakke. For at gøre dette bruger AMD det velkendte 2.5D-chipdesign, der har været tilgængeligt i årevis i form af grafikchips med HBM lige ved siden af, men ikke alene går det bogstaveligt talt endnu længere med den ekstra 3D-stabling, så Den færdige produktet hviler på en 3,5D-stak.
Arkitektur af AMD Instinct MI300-familien (Billede: AMD)
Bundpladen, hvis du vil sige det sådan, er I/O-matricen. Fire af dem ligger ved siden af hinanden. Enten er de faktiske GPU/XCD-matricer eller CPU-chips installeret på dem. I en MI300A er der seks XCD’er og tre CCD’er.
Arkitektur af AMD Instinct MI300-familien (Billede: AMD)
Udskift GPU med CPU-chipsæt
For en MI300C er XCD’erne (GPU-enhederne) nu udskiftet med yderligere CCD-blokke, for i MI300A er der kun tre med hver otte kerner. 24 Zen 4-kerner bliver til i alt 96 kerner. Resten forbliver næsten det samme. Dette inkluderer også den 128 GB HBM3-hukommelse, der er inkluderet i pakken. MI300C er i bund og grund en Epyc-processor med HBM3.
I praksis med faktisk 88 kerner og uden SMT
I praksis bliver teorien dog let forskellige parametre afhængig af den påtænkte anvendelse. I Azure HBv5 Virtual Machine bruger Microsoft fire af disse løsninger i en kvartet. Der er dog kun 88 kerner tilgængelige pr. CPU; otte kerner tager sig hver af operativsystemet og administrationen for at holde alt kørende. Der er fire af disse processorer på et enkelt kort, clocket til maksimalt 4 GHz, hvilket giver 352 kerner i alt.
HBv5 virtuel maskine (Billede: Azure)
Om SMT også blev deaktiveret afhænger af den tilsigtede brug i VM-området, men også det maksimalt mulige hukommelsesbåndbreddemål. Næsten 7 TB i sekundet er sjældent på markedet. Disse implementeres ved brug af maksimalt 400 til 450 GB HBM3, skriver Azure, og igen forbliver de under det teoretiske maksimum på 512 GB.
Grundlæggende tekniske data omfatter:
6,9 TB/s hukommelsesbåndbredde (STREAM Triad) på 400 til 450 GB RAM (HBM3) Op til 9 GB hukommelse pr. kerne (kundekonfigurerbar) Op til 352 AMD EPYC „Zen4‟ processorkerner „, 4 GHz spidsfrekvenser (kundekonfigurerbar) Infinity Fabric 2X samlet båndbredde på tværs af processorer kontra enhver platform af AMD EPYC™-servere til dato. SMT deaktiveret, design med én lejer kun (1 VM pr. server)800 Gbps NVIDIA Quantum-2 InfiniBand, balanceret til 200 Gbps pr. SoCAAzure VMSS Flex-processor til at skalere MPI-arbejdsbelastninger til hundredtusindvis af CPU-kerner drevet af HBM160 Gbps af Azure-accelereret netværk via en 2nd Gen Azure Boost NIC14 TB lokal NVMe SSD-levering op til 50 GB/s læse- og 30 GB/s skrivebåndbredde
Det blev annonceret på SC24-messen i Atlanta, at disse AMD-processorer ikke ville være tilgængelige som en generel løsning; indtil videre forbliver de eksklusive til Azure.
Emner: AMD AMD Genoa Epyc HBM Instinct Processorer SC24 Server Supercomputer Economy Zen Kilde: Microsoft
Marc afdækker processorer ved at teste deres ydeevne til gaming, indholdsproduktion og kunstig intelligens.
