485 000 AI-acceleratorer: Microsoft var Nvidias bästa kund i år

485 000 AI-acceleratorer: Microsoft var Nvidias bästa kund i år 26 kommentarer

Bild: Nvidia

Microsoft var den största köparen av Nvidias Hopper-generation AI-acceleratorer i år. Detta är vad som framgår av Omdias analyser som citeras av Financial Times. Som ett resultat av detta förvärvade Microsoft cirka 485 000 AI-acceleratorer från Nvidia i år, mer än dubbelt så många som den näst största kunden, ByteDance.

Innehållsförteckning :

485 000 Hopper generation AI acceleratorer

Prognosen baseras på investeringar, serverleveranser och information om leveranskedjan som avslöjas av börsnoterade företag. Analytiker spekulerar i att Microsoft köpte omkring 485 000 Nvidia Hopper-generations AI-acceleratorer i år för AI-träning och slutledning. Microsoft har därmed blivit Nvidias överlägset bästa kund i nationell och internationell jämförelse av året.

Kina ligger tvåa och trea

Kinesiska företag ByteDance (främst kända för TikTok) och Tencent (sociala medier, e-handel, reklam) följer på andra och tredje plats i statistiken. Båda har cirka 230 000 AI-acceleratorer, vilket i det här fallet även inkluderar modeller som är specifikt reserverade för Kina, såsom H20, som liksom A800 och H800 är resultatet av stränga handelsrestriktioner i USA.

Meta före xAI, Amazon och Google

På den amerikanska marknaden förvärvade Meta Nvidias andra Hopper GPU bakom Microsoft. Totalt delades 224 000 mynt ut på Meta i år. Enligt Omdia köpte företaget bakom Facebook, WhatsApp, Instagram och Quest också 173 000 AMD MI300 i år. I den här jämförelsen har Microsoft bara 96 000 MI300 och har därför fokuserat mer på Nvidia.

Tesla och xAI förlitar sig för närvarande på 100 000 H100 GPU:er för AI-superdatorn Colossus, som används för att träna LLM:er som Grok. När det blev klart i oktober meddelade dock Nvidia och xAI att de redan arbetade på att utöka Colossus till 200 000 och därför dubbelt så många GPU:er.

Anpassade AI-chips konkurrerar med Nvidia

Amazon och Google, som också vill implementera artificiell intelligens med hjälp av sina egna anpassade chips, har köpt cirka 196 000 (Amazon) och 169 000 (Google) Hopper-acceleratorer från Nvidia. Amazon har sålt cirka 1,3 miljoner av sina egna Trainium- och Inferentia-chips i år och vill träna nästa generations AI-modeller med konkurrenten OpenAI Anthropic, där Amazon har investerat 8 miljarder dollar. Ungefär 1,5 miljoner enheter av Googles egen TPU och Metas MTIA (Meta Training and Inference Accelerator) har sålts vardera. Omdia rapporterar försäljningen av Microsofts Maia på 200 000 enheter.