Blackwell Ultra: Nvidia GB300:ssa on 288 Gt HBM3e ja 1,4 kW per GPU 46 kommenttia
Kuva: Nvidia
Blackwell Ultran päivityksen tekniset tiedot tulevat taiwanilaiselta toimitusketjulta. Nvidia ilmoitti jo kesäkuussa Computexissa Blackwell-arkkitehtuurin päivityksen puolivälissä, ja nyt paljastetaan GB300:n yksityiskohtia, kuten asennetun HBM3e:n määrä (288 Gt) tai kulutus GPU:ta kohti (1 400 wattia).
Valmistaja ilmoitti sijoittajille noin vuosi sitten, että Nvidia nopeuttaa uusien ratkaisujen käyttöönottoa tekoälyn superlaskentaan. Tämän vuoden kesäkuussa pidetyssä Computex-puheenvuorossa toimitusjohtaja Jensen Huang oli yllättävän avoin ja antoi yleisölle välähdyksen Blackwellin seuraajista, Blackwell Ultrasta, Rubinista ja Rubin Ultrasta seuraavien vuosien aikana.
Blackwell Ultra ja 288 Gt HBM3e
Tämän seurauksena Blackwell Ultran puolivälin päivitys on suunniteltu ensi vuodelle. Nvidia oli jo virallisesti ilmoittanut tähän tarkoitukseen ”8S HBM3e 12H” -ominaisuuden. Tämä tarkoittaa, että käytössä on 8 HBM3e-pinoa, joissa kussakin on 12 kerrosta. Muistin laajennuksen GPU:ta kohti odotetaan kasvavan nykyisestä 192 Gt:sta 288 Gt:iin, raportoi Taiwanin Economic Daily viittaamalla toimitusketjuun.
288 Gt:n luku ei kuitenkaan ole yllätys, sillä Blackwell (ilman Ultraa) käyttää tällä hetkellä 8 pinoa HBM3e:tä, joissa kussakin on 8 kerrosta, jolloin se nostaa sen 192 Gt:iin 50 % lisää tasoja Blackwell Ultralla, mikä tarkoittaa 50 % enemmän muistia ja siten 288 Gt .
TDP kasvaa maltillisesti
Economic Daily -raportti keskittyy pääasiassa GB300:aan, GB200-supersirun seuraajaan. Näin Nvidia kutsuu korttia, jossa on kaksi B200 GPU:ta ja Grace CPU. 36 näistä korteista muodostaa GB200 NVL72:n, tiheän, vesijäähdytteisen telineen, jossa on 72 Blackwell GPU:ta, 36 Grace-suoritinta, 13,5 TB HBM3e ja jopa 1 440 PetaFLOPS suorituskykyä (FP4 Tensor Core Sparse). Jokaisella Superchip-kortilla on konfiguroitavissa oleva 2 700 watin TDP. Tämä on tärkeää, kun kyse on Blackwell Ultrasta.
Artikkelissa luetellaan 1 400 watin TDP B300 GPU:lle. Se kuulostaa paljon, mutta se ei ole paljon enempää kuin B200. Kaksi Blackwell Ultra GPU:ta saavuttaisi maksimissaan 2 800 wattia, ja silloin olisi tarpeen lisätä Grace CPU ja muut kortin komponentit, jotta kulutusta voidaan verrata aiempaan Superchip GB200: een. On ennakoitavissa, että kulutus korttia kohden on suurempi, mutta ero ei ole dramaattinen, jos vertaamme sitä suorituskyvyn kasvuun. FP4:n suorituskyky kasvaisi 50 % 2 160 PetaFLOPSiin Blackwell Ultralla käytettäessä niukkaa kiihdytystä.
LPCAMM Grace-prosessorille
Grace-prosessorin HBM3e:n lisäksi jokaiseen Superchip GB200 -piiriin juotetaan myös 480 Gt LPDDR5X:tä Grace-prosessorille. Seuraava sukupolvi esittelee modulaarisen LPCAMM:n, joka on alusta alkaen tarkoitettu kannettaville tietokoneille, pöytäkoneille ja palvelimille.
Muutoksia jäähdytykseen ja energian varastointiin
Uusissa Blackwell Ultralla varustetuissa tekoälypalvelimissa vesijäähdytystä varten tarkoitettujen yleisten pikakatkaisijoiden (UQD) määrää odotetaan lisääntyvän, mikä tekee järjestelmästä modulaarisemman. Uusiin telineisiin luodaan tilaa myös akkuvarmistusyksiköille (BBU) ja superkondensaattoreille, jotka käyttävät tätä energiaa katkosten vaimentamiseen.
Verkon odotetaan kaksinkertaistuvan 1,6 Tbps:iin
Lisäksi Nvidia aikoo kaksinkertaistaa seuraavan verkon nopeuden 1,6 Tbps:iin. Economic Daily ottaa käyttöön päivityksen vanhasta ConnectX-7 InfiniBand -sovittimesta ConnectX-8:aan. Computexin kesäkuun tiekartan mukaan 1,6 Tbit/s oli suunniteltu vain Rubin-alustalle ja sen ConnectX-9:lle, odotettavissa ensi vuonna. ConnectX-8 on jo käytössä myös nykyisissä Blackwell-ratkaisuissa ja tarjoaa 800 Gbps kaistanleveyden.
Aiheet: Näytönohjaimet Tekoäly Nvidia Nvidia Blackwell Lähde: Economic Daily
Koulutukseltaan insinööri Alexandre jakaa tietämystään näytönohjaimien suorituskyvystä pelaamiseen ja luovaan työhön.
