AMD Instinct MI300C: Um processador Epyc personalizado com 128 GB HBM3 para comentários do Microsoft 40
Imagem: AMD
Na SC24/Ignite, o Microsoft Azure lançou o primeiro processador Zen 4 com HBM3 sob o nome Epyc. Por trás disso está o produto mais recentemente conhecido como Instinct MI300C: a AMD já havia mencionado esta variante como uma opção futura em 2023. Por enquanto, o processador Epyc personalizado de 4ª geração permanece bastante exclusivo.
No domingo, quando o chefe da divisão de data center da AMD esteve presente na apresentação do novo supercomputador mais rápido, El Capitan, a AMD mencionou brevemente o MI300C como uma opção possível. Ele provavelmente não quis e não foi autorizado a revelar que era oficial até dois dias depois e simplesmente disse “você poderá ouvir algo sobre isso mais tarde” – então um anúncio no futuro próximo já foi mencionado lá.
O que é o instinto MI300C?
MI300 (MI300X e MI300A (Detalhes)) é um acelerador para o ambiente de computação de alto desempenho e, em particular, para o setor de inteligência artificial (IA) atualmente em expansão. Isto não envolve apenas adaptações a arquiteturas já conhecidas (CDNA); Tudo também é embalado no chamado pacote 3,5D. Para fazer isso, a AMD usa o conhecido design de chip 2,5D, disponível há anos na forma de chips gráficos com HBM ao lado, mas não apenas vai literalmente ainda mais longe com o empilhamento 3D adicional, para que o finalizado o produto repousa sobre uma pilha 3,5D.
Arquitetura da família AMD Instinct MI300 (Imagem: AMD)
A placa de base, se você quiser colocar dessa forma, é a matriz de E/S. Quatro deles estão próximos um do outro. A GPU/XCD real morre ou os chips da CPU estão instalados neles. Num MI300A existem seis XCDs e três CCDs.
Arquitetura da família AMD Instinct MI300 (Imagem: AMD)
Substitua GPU por chipsets de CPU
Para um MI300C, os XCDs (unidades GPU) agora são trocados por blocos CCD adicionais, pois no MI300A existem apenas três com oito núcleos cada. 24 núcleos Zen 4 tornam-se um total de 96 núcleos. O resto permanece quase o mesmo. Isso também inclui a memória HBM3 de 128 GB incluída no pacote. O MI300C é essencialmente um processador Epyc com HBM3.
Na prática, com 88 núcleos e sem SMT
Na prática, porém, a teoria facilmente se transforma em parâmetros diferentes dependendo do uso pretendido. Na Máquina Virtual Azure HBv5, a Microsoft usa quatro dessas soluções em um quarteto. Entretanto, apenas 88 núcleos estão disponíveis por CPU; oito núcleos cuidam cada um do sistema operacional e do gerenciamento para manter tudo funcionando perfeitamente. São quatro desses processadores em uma única placa, com freqüência máxima de 4 GHz, totalizando 352 núcleos.
Máquina virtual HBv5 (Imagem: Azure)
Se o SMT também foi desativado depende do uso pretendido na área da VM, mas também da meta de largura de banda de memória máxima possível. Quase 7 TB por segundo é raro no mercado. Estes são implementados utilizando um máximo de 400 a 450 GB de HBM3, escreve Azure, e novamente permanecem abaixo do máximo teórico de 512 GB.
Os dados técnicos básicos incluem:
Largura de banda de memória de 6,9 TB/s (STREAM Triad) em 400 a 450 GB de RAM (HBM3) Até 9 GB de memória por núcleo (configurável pelo cliente) Até 352 núcleos de processador AMD EPYC “Zen4”, frequências de pico de 4 GHz (configurável pelo cliente) Infinity Fabric 2X largura de banda total entre processadores em comparação com qualquer plataforma de servidores AMD EPYC™ até o momento. SMT desativado, design de locatário único apenas (1 VM por servidor) NVIDIA Quantum-2 InfiniBand de 800 Gbps, balanceado para 200 Gbps por SoCA Processador Azure VMSS Flex para dimensionar cargas de trabalho MPI para centenas de milhares de núcleos de CPU alimentados por HBM160 Gbps de rede acelerada do Azure por meio de um SSD NVMe local Azure Boost NIC14 TB de 2ª geração, entregando até 50 GB/s de largura de banda de leitura e 30 GB/s de gravação
Foi anunciado na feira SC24 em Atlanta que esses processadores AMD não estariam disponíveis como solução geral; por enquanto, eles permanecerão exclusivos do Azure.
Tópicos: AMD AMD Genoa Epyc HBM Instinct Processadores SC24 Servidor Supercomputador Economia Zen Fonte: Microsoft
Marc decifra processadores testando seu desempenho para jogos, criação de conteúdo e inteligência artificial.
