485.000 aceleradores de IA: Microsoft fue el mejor cliente de Nvidia este año

485.000 aceleradores de IA: Microsoft fue el mejor cliente de Nvidia este año 26 comentarios

Imagen: NVIDIA

Microsoft fue el mayor comprador de aceleradores de inteligencia artificial de la generación Hopper de Nvidia este año. Esto es lo que se desprende de los análisis de Omdia citados por el Financial Times. Como resultado, Microsoft adquirió alrededor de 485.000 aceleradores de IA de Nvidia este año, más del doble que el segundo cliente más grande, ByteDance.

Resumen :

485.000 aceleradores de IA de generación Hopper

El pronóstico se basa en gastos de capital, envíos de servidores e información de la cadena de suministro divulgada por las empresas que cotizan en bolsa. Los analistas especulan que Microsoft compró alrededor de 485.000 aceleradores de IA de generación Nvidia Hopper este año para entrenamiento e inferencia de IA. Microsoft se ha convertido así con diferencia en el mejor cliente de Nvidia en la comparación nacional e internacional del año.

China ocupa el segundo y tercer lugar

Las empresas chinas ByteDance (conocida principalmente por TikTok) y Tencent (redes sociales, comercio electrónico, publicidad) ocupan el segundo y tercer lugar en las estadísticas. Ambos cuentan con alrededor de 230.000 aceleradores de IA, que en este caso también incluyen modelos específicamente reservados para China, como el H20, que, al igual que el A800 y el H800, es resultado de las estrictas restricciones comerciales de Estados Unidos.

Meta antes de xAI, Amazon y Google

En el mercado estadounidense, Meta adquirió la segunda GPU Hopper de Nvidia, detrás de Microsoft. Este año se distribuyeron en Meta un total de 224.000 monedas. Según Omdia, la empresa detrás de Facebook, WhatsApp, Instagram y Quest también compró 173.000 AMD MI300 este año. En esta comparación, Microsoft sólo tiene 96.000 MI300 y, por tanto, se ha centrado más en Nvidia.

Mientras tanto, Tesla y xAI dependen actualmente de 100.000 GPU H100 para la supercomputadora de IA llamada Colossus, que se utiliza para formar LLM como Grok. Sin embargo, cuando se completó en octubre, Nvidia y xAI anunciaron que ya estaban trabajando en expandir Colossus a 200.000 y, por lo tanto, al doble de GPU.

Los chips de IA personalizados compiten con Nvidia

Amazon y Google, que también quieren implementar inteligencia artificial utilizando sus propios chips personalizados, han comprado aproximadamente 196.000 (Amazon) y 169.000 (Google) aceleradores Hopper de Nvidia. Amazon ha vendido alrededor de 1,3 millones de sus propios chips Trainium e Inferentia este año y quiere entrenar la próxima generación de modelos de IA con su rival OpenAI Anthropic, en el que Amazon ha invertido 8.000 millones de dólares. Se han vendido cada uno aproximadamente 1,5 millones de unidades del TPU de Google y del MTIA (Meta Training and Inference Accelerator) de Meta. Omdia informa de unas ventas de Maia de Microsoft de 200.000 unidades.