485.000 acceleratori AI: Microsoft è stato il miglior cliente di Nvidia quest’anno

485.000 acceleratori AI: Microsoft è stata il miglior cliente di Nvidia quest’anno 26 commenti

Immagine: Nvidia

Quest’anno Microsoft è stata il più grande acquirente degli acceleratori AI della generazione Hopper di Nvidia. È quanto emerge dalle analisi di Omdia citate dal Financial Times. Di conseguenza, quest’anno Microsoft ha acquisito circa 485.000 acceleratori AI da Nvidia, più del doppio rispetto al secondo cliente più grande, ByteDance.

485.000 acceleratori AI di generazione Hopper

La previsione si basa sulle spese in conto capitale, sulle spedizioni di server e sulle informazioni sulla catena di fornitura divulgate dalle società quotate. Gli analisti ipotizzano che Microsoft abbia acquistato quest’anno circa 485.000 acceleratori IA della generazione Nvidia Hopper per l’addestramento e l’inferenza dell’IA. Microsoft è così diventata di gran lunga il miglior cliente di Nvidia nel confronto nazionale ed internazionale dell’anno.

La Cina è al secondo e terzo posto

Al secondo e terzo posto nelle statistiche seguono le aziende cinesi ByteDance (nota soprattutto per TikTok) e Tencent (social media, e-commerce, pubblicità). Entrambi dispongono di circa 230.000 acceleratori IA, che in questo caso includono anche modelli espressamente riservati alla Cina, come l’H20, che, come l’A800 e l’H800, è il risultato di rigide restrizioni commerciali statunitensi.

Meta prima di xAI, Amazon e Google

Nel mercato statunitense, Meta ha acquisito la seconda GPU Hopper di Nvidia dietro Microsoft. Quest’anno a Meta sono state distribuite in totale 224.000 monete. Secondo Omdia, anche la società dietro Facebook, WhatsApp, Instagram e Quest ha acquistato quest’anno 173.000 AMD MI300. In questo confronto, Microsoft ha solo 96.000 MI300 e si è quindi concentrata maggiormente su Nvidia.

Tesla e xAI, nel frattempo, attualmente fanno affidamento su 100.000 GPU H100 per il supercomputer AI chiamato Colossus, utilizzato per addestrare LLM come Grok. Tuttavia, quando è stato completato in ottobre, Nvidia e xAI hanno annunciato che stavano già lavorando per espandere Colossus a 200.000 e quindi al doppio delle GPU.

I chip AI personalizzati competono con Nvidia

Amazon e Google, che vogliono implementare l’intelligenza artificiale utilizzando i propri chip personalizzati, hanno acquistato da Nvidia circa 196.000 (Amazon) e 169.000 (Google) acceleratori Hopper. Amazon ha venduto circa 1,3 milioni di chip Trainium e Inferentia quest’anno e vuole addestrare la prossima generazione di modelli di intelligenza artificiale con il rivale OpenAI Anthropic, in cui Amazon ha investito 8 miliardi di dollari. Sono state vendute circa 1,5 milioni di unità del TPU di Google e del MTIA (Meta Training and Inference Accelerator) di Meta ciascuno. Omdia riporta vendite di Maia di Microsoft a 200.000 unità.

Alexandre Lefèvre

Ingegnere di formazione, Alexandre condivide le sue conoscenze sulle prestazioni delle GPU per gaming e creazione.