485.000 aceleradores de IA: a Microsoft foi o melhor cliente da Nvidia este ano 26 comentários
Imagem: Nvidia
A Microsoft foi a maior compradora dos aceleradores de IA da geração Hopper da Nvidia este ano. Isto é o que emerge das análises de Omdia citadas pelo Financial Times. Como resultado, a Microsoft adquiriu cerca de 485.000 aceleradores de IA da Nvidia este ano, mais que o dobro do segundo maior cliente, a ByteDance.
485.000 aceleradores de IA da geração Hopper
A previsão é baseada em despesas de capital, remessas de servidores e informações da cadeia de suprimentos divulgadas pelas empresas listadas. Analistas especulam que a Microsoft comprou cerca de 485.000 aceleradores de IA da geração Nvidia Hopper este ano para treinamento e inferência de IA. A Microsoft tornou-se assim, de longe, o melhor cliente da Nvidia na comparação nacional e internacional do ano.
China ocupa segundo e terceiro lugar
As empresas chinesas ByteDance (conhecida principalmente pelo TikTok) e Tencent (redes sociais, e-commerce, publicidade) seguem em segundo e terceiro lugar nas estatísticas. Ambos possuem cerca de 230 mil aceleradores de IA, o que neste caso também inclui modelos reservados especificamente para a China, como o H20, que, tal como o A800 e o H800, é o resultado de estritas restrições comerciais dos EUA.
Meta antes de xAI, Amazon e Google
No mercado dos EUA, a Meta adquiriu a segunda GPU Hopper da Nvidia, atrás da Microsoft. Um total de 224.000 moedas foram distribuídas na Meta este ano. De acordo com Omdia, a empresa por trás do Facebook, WhatsApp, Instagram e Quest também comprou 173 mil AMD MI300 este ano. Nesta comparação, a Microsoft possui apenas 96 mil MI300s e, portanto, focou mais na Nvidia.
Enquanto isso, Tesla e xAI contam atualmente com 100.000 GPUs H100 para o supercomputador de IA chamado Colossus, que é usado para treinar LLMs como Grok. No entanto, quando foi concluído em outubro, a Nvidia e a xAI anunciaram que já estavam trabalhando na expansão do Colossus para 200.000 e, portanto, o dobro de GPUs.
Chips de IA personalizados competem com a Nvidia
Amazon e Google, que também desejam implementar inteligência artificial usando seus próprios chips personalizados, compraram aproximadamente 196 mil (Amazon) e 169 mil (Google) aceleradores Hopper da Nvidia. A Amazon vendeu cerca de 1,3 milhão de seus próprios chips Trainium e Inferentia este ano e quer treinar a próxima geração de modelos de IA com a rival OpenAI Anthropic, na qual a Amazon investiu US$ 8 bilhões. Aproximadamente 1,5 milhão de unidades do próprio TPU do Google e do MTIA (Meta Training and Inference Accelerator) da Meta foram vendidas cada. Omdia relata vendas do Maia da Microsoft em 200.000 unidades.
Engenheiro de formação, Alexandre compartilha seu conhecimento sobre o desempenho de GPUs para jogos e criação.