AMD Instinct MI300C : Un processeur Epyc personnalisé avec 128 Go HBM3 pour Microsoft 40 commentaires
Image : DMLA
Lors de SC24/Ignite, Microsoft Azure a lancé le premier processeur Zen 4 avec HBM3 sous le nom d’Epyc. Derrière cela se cache le produit le plus récemment connu sous le nom d’Instinct MI300C : AMD avait déjà évoqué cette variante comme une future option en 2023. Pour l’instant, le processeur Epyc personnalisé de 4e génération reste assez exclusif.
Dimanche, lorsque le responsable de la division centres de données d’AMD était présent à la présentation du nouveau supercalculateur le plus rapide, El Capitan, AMD a brièvement évoqué le MI300C comme une option possible. Il n’a probablement pas voulu et n’a pas été autorisé à révéler que c’était officiel seulement deux jours plus tard et a simplement déclaré « que vous pourriez entendre quelque chose à ce sujet plus tard » – donc une annonce dans un avenir proche y était déjà évoquée.
Qu’est-ce qu’Instinct MI300C ?
Architecture de la famille AMD Instinct MI300 (Image : AMD)
La plaque de base, si vous voulez l’exprimer ainsi, est la matrice d’E/S. Quatre d’entre eux sont côte à côte. Soit les matrices GPU/XCD réelles, soit les puces CPU sont installées dessus. Dans un MI300A, il y a six XCD et trois CCD.
Architecture de la famille AMD Instinct MI300 (Image : AMD)
Remplacer le GPU par des chipsets CPU
Pour un MI300C, les XCD (unités GPU) sont désormais échangés contre des blocs CCD supplémentaires, car dans le MI300A, il n’y en a que trois avec huit cœurs chacun. 24 cœurs Zen 4 deviennent un total de 96 cœurs. Le reste reste quasiment identique. Cela inclut également la mémoire HBM3 de 128 Go incluse dans le package. Le MI300C est essentiellement un processeur Epyc avec HBM3.
En pratique avec effectivement 88 coeurs et sans SMT
En pratique, cependant, la théorie devient facilement des paramètres différents en fonction de l’utilisation prévue. Dans la machine virtuelle Azure HBv5, Microsoft utilise quatre de ces solutions dans un quatuor. Cependant, seuls 88 cœurs sont disponibles par CPU ; huit cœurs s’occupent chacun du système d’exploitation et de la gestion pour que tout se déroule sans problème. Il y a quatre de ces processeurs sur une seule carte, cadencés à un maximum de 4 GHz, soit 352 cœurs au total.
Machine virtuelle HBv5 (Image : Azure)
Le fait que SMT ait également été désactivé dépend de l’utilisation prévue dans la zone VM, mais aussi de l’objectif de bande passante mémoire maximale possible. Près de 7 To par seconde, c’est rare sur le marché. Ceux-ci sont implémentés en utilisant au maximum 400 à 450 Go de HBM3, écrit Azure, et là aussi ils restent en dessous du maximum théorique de 512 Go.
Les données techniques de base comprennent :
6,9 To/s de bande passante mémoire (STREAM Triad) sur 400 à 450 Go de RAM (HBM3) Jusqu’à 9 Go de mémoire par cœur (configurable par le client) Jusqu’à 352 cœurs de processeur AMD EPYC « Zen4 », fréquences de crête de 4 GHz (configuration par le client) configurable) Bande passante totale Infinity Fabric 2X parmi les processeurs par rapport à n’importe quelle plate-forme de serveur AMD EPYC™ à ce jour. SMT désactivé, conception à locataire unique uniquement (1 VM par serveur)800 Gbit/s de NVIDIA Quantum-2 InfiniBand, équilibrés à 200 Gbit/s par processeur SoCAAzure VMSS Flex pour faire évoluer les charges de travail MPI vers des centaines de milliers de cœurs de processeur alimentés par HBM160 Gbit/s de mise en réseau accélérée Azure via une carte réseau Azure Boost de 2e génération14 To SSD NVMe local offrant jusqu’à 50 Go/s de bande passante en lecture et 30 Go/s en écriture
Il a été annoncé lors du salon du SC24 à Atlanta que ces processeurs d’AMD ne seraient pas disponibles en tant que solution générale ; pour l’instant, ils resteront exclusifs à Azure.
Sujets : AMD AMD Genoa Epyc HBM Instinct Processeurs SC24 Server Supercomputer Economy Zen Source : Microsoft
Marc décrypte les processeurs en testant leurs performances pour le gaming, la création de contenu et l’intelligence artificielle.
