485.000 AI-acceleratorer: Microsoft var Nvidias bedste kunde i år

485.000 AI-acceleratorer: Microsoft var Nvidias bedste kunde i år 26 kommentarer

Billede: Nvidia

Microsoft var den største køber af Nvidias Hopper-generation AI-acceleratorer i år. Det fremgår af Omdias analyser citeret af Financial Times. Som et resultat købte Microsoft omkring 485.000 AI-acceleratorer fra Nvidia i år, mere end dobbelt så mange som den næststørste kunde, ByteDance.

Indholdsfortegnelse :

485.000 Hopper generation AI acceleratorer

Prognosen er baseret på kapitaludgifter, serverforsendelser og forsyningskædeoplysninger oplyst af børsnoterede virksomheder. Analytikere spekulerer i, at Microsoft har købt omkring 485.000 Nvidia Hopper-generations AI-acceleratorer i år til AI-træning og -slutning. Microsoft er dermed blevet Nvidias klart bedste kunde i årets nationale og internationale sammenligning.

Kina ligger på anden og tredjepladsen

Kinesiske virksomheder ByteDance (hovedsageligt kendt for TikTok) og Tencent (sociale medier, e-handel, annoncering) følger på anden- og tredjepladsen i statistikken. Begge har omkring 230.000 AI-acceleratorer, hvilket i dette tilfælde også omfatter modeller, der er specielt reserveret til Kina, såsom H20, der ligesom A800 og H800 er resultatet af strenge amerikanske handelsrestriktioner.

Meta før xAI, Amazon og Google

På det amerikanske marked købte Meta Nvidias anden Hopper GPU bag Microsoft. I alt blev der uddelt 224.000 mønter hos Meta i år. Ifølge Omdia købte virksomheden bag Facebook, WhatsApp, Instagram og Quest også 173.000 AMD MI300 i år. I denne sammenligning har Microsoft kun 96.000 MI300s og har derfor fokuseret mere på Nvidia.

Tesla og xAI er i mellemtiden afhængig af 100.000 H100 GPU’er til AI-supercomputeren kaldet Colossus, som bruges til at træne LLM’er som Grok. Men da det stod færdigt i oktober, annoncerede Nvidia og xAI, at de allerede arbejdede på at udvide Colossus til 200.000 og derfor dobbelt så mange GPU’er.

Brugerdefinerede AI-chips konkurrerer med Nvidia

Amazon og Google, som også ønsker at implementere kunstig intelligens ved hjælp af deres egne tilpassede chips, har købt cirka 196.000 (Amazon) og 169.000 (Google) Hopper-acceleratorer fra Nvidia. Amazon har solgt omkring 1,3 millioner af sine egne Trainium- og Inferentia-chips i år og ønsker at træne den næste generation af AI-modeller med rivalen OpenAI Anthropic, som Amazon har investeret 8 milliarder dollar i. Cirka 1,5 millioner enheder af Googles egen TPU og Metas MTIA (Meta Training and Inference Accelerator) er blevet solgt hver. Omdia rapporterer salg af Microsofts Maia på 200.000 enheder.