AMD Instinct MI300C: un processore Epyc personalizzato con 128 GB HBM3 per Microsoft 40 commenti
Immagine: AMD
Alla SC24/Ignite Microsoft Azure ha lanciato il primo processore Zen 4 con HBM3 sotto il nome Epyc. Dietro questo si nasconde il prodotto recentemente conosciuto come Instinct MI300C: AMD aveva già menzionato questa variante come opzione futura nel 2023. Per ora, il processore Epyc personalizzato di quarta generazione rimane piuttosto esclusivo.
Domenica, quando il capo della divisione data center di AMD era presente alla presentazione del nuovo supercomputer più veloce, El Capitan, AMD ha menzionato brevemente l’MI300C come possibile opzione. Probabilmente non voleva e non gli è stato permesso di rivelare che era ufficiale fino a due giorni dopo e ha semplicemente detto “potresti sentirne qualcosa più tardi” – quindi un annuncio per la chiusura futura era già menzionato lì.
Cos’è l’Instinct MI300C?
MI300 (MI300X & MI300A (Dettagli)) è un acceleratore per l’ambiente informatico ad alte prestazioni e in particolare per il settore attualmente in forte espansione dell’intelligenza artificiale (AI). Ciò non comporta solo adattamenti ad architetture già note (CDNA); Tutto è anche confezionato nel cosiddetto pacchetto 3.5D. Per fare questo, AMD utilizza il noto design dei chip 2.5D, disponibile da anni sotto forma di chip grafici con HBM proprio accanto ad esso, ma non solo va letteralmente anche oltre con l’ulteriore stacking 3D, in modo che Il finito il prodotto poggia su uno stack 3,5D.
Architettura della famiglia AMD Instinct MI300 (Immagine: AMD)
La piastra base, se vogliamo dirla così, è la matrice I/O. Quattro di loro sono uno accanto all’altro. Su di essi sono installati i veri die GPU/XCD o i chip della CPU. In un MI300A ci sono sei XCD e tre CCD.
Architettura della famiglia AMD Instinct MI300 (Immagine: AMD)
Sostituisci la GPU con i chipset CPU
Per un MI300C, gli XCD (unità GPU) vengono ora sostituiti con blocchi CCD aggiuntivi, perché nell’MI300A ce ne sono solo tre con otto cores ciascuno. 24 core Zen 4 diventano un totale di 96 core. Il resto rimane quasi lo stesso. In questo rientra anche la memoria HBM3 da 128GB inclusa nella confezione. L’MI300C è essenzialmente un processore Epyc con HBM3.
In pratica con 88 core e senza SMT
In pratica, però, la teoria diventa facilmente parametri diversi a seconda della destinazione d’uso. Nella macchina virtuale Azure HBv5, Microsoft utilizza quattro di queste soluzioni in un quartetto. Tuttavia, sono disponibili solo 88 core per CPU; otto core ciascuno si occupano del sistema operativo e della gestione per garantire che tutto funzioni senza intoppi. Ci sono quattro di questi processori su una singola scheda, con clock a un massimo di 4 GHz, per un totale di 352 core.
Macchina virtuale HBv5 (Immagine: Azure)
Se anche SMT è stato disabilitato dipende dall’utilizzo previsto nell’area della VM, ma anche dall’obiettivo massimo di larghezza di banda della memoria possibile. Quasi 7 TB al secondo sono rari sul mercato. Questi vengono implementati utilizzando un massimo di 400-450 GB di HBM3, scrive Azure, e anche in questo caso rimangono al di sotto del massimo teorico di 512 GB.
I dati tecnici di base includono:
Larghezza di banda della memoria da 6,9 TB/s (STREAM Triad) su RAM da 400 a 450 GB (HBM3) Fino a 9 GB di memoria per core (configurabile dal cliente) Fino a 352 core del processore AMD EPYC “Zen4”, frequenze di picco di 4 GHz (configurabili dal cliente) Larghezza di banda totale Infinity Fabric 2X tra processori rispetto a qualsiasi piattaforma di server AMD EPYC™ fino ad oggi. SMT disabilitato, solo design a tenant singolo (1 VM per server) NVIDIA Quantum-2 InfiniBand da 800 Gbps, bilanciato a 200 Gbps per processore SoCAAzure VMSS Flex per scalare carichi di lavoro MPI su centinaia di migliaia di core CPU basati su HBM 160 Gbps di rete accelerata di Azure tramite la distribuzione di un SSD NVMe locale NIC Azure Boost di seconda generazione da 14 TB larghezza di banda fino a 50 GB/s in lettura e 30 GB/s in scrittura
Alla fiera SC24 di Atlanta è stato annunciato che questi processori AMD non sarebbero stati disponibili come soluzione generale; per ora rimarranno esclusivi di Azure.
Argomenti: AMD AMD Genoa Epyc HBM Instinct Processori SC24 Server Supercomputer Economia Zen Fonte: Microsoft
Marc decodifica i processori testando le loro prestazioni per gaming, creazione di contenuti e intelligenza artificiale.
