Suuren kaistanleveyden salama: Sandisk suunnittelee jättimäistä tallennustilaa tekoälykiihdyttimelle 16 kommenttia
Kuva: Sanisk
Sandisk on pian digitaalisesti itsenäinen erottuaan Westernistä ja sillä on suuria tulevaisuudensuunnitelmia. Yksi niistä on High Bandwidth Flash (HBF), jonka pitäisi tarjota GPU:ille paljon enemmän muistia kuin olisi mahdollista aiemmalla High Bandwidth -muistilla (HBM).
HBF:n tulisi täydentää ja korvata HBM
Aluksi idea saattaa tuntua absurdilta, sillä kuten hyvin tiedetään, NAND-Flash on huomattavasti hitaampi kuin DRAM, kuten HBM:ssä on pinottu. Siitä huolimatta Sander suuren kaistanleveyden salaman kanssa suunnittelee (lisä)käyttöä NAND-salamaa, joka leikataan suurella kaistanleveydellä, jonka oletetaan käyttävän GPU:ita käytettäessä AI-malleja, niin sanottu AI-johtopäätös, jossa on runsaasti tallennustilaa.
Vähintään 8 kertaa enemmän muistia kuin HBM:llä
Jokaisen uuden sukupolven suuren kaistanleveyden muistin kanssa on suurempi tallennuskapasiteetti, joka saavuttaa 192 Gt, esimerkiksi AMD:n ja NVIDIAn tekoälyn ansiosta. High Bandwidth Flash (HBF) -salamalla Sandisk haluaa kuitenkin mahdollistaa 8–16-kertaisen tasaisen tallennuskapasiteetin vertailukelpoisin kustannuksin.
Kaksi skenaariota on havainnollistettu graafisesti ja perinteistä ratkaisua verrataan 8 HBM-pakettiin ja yhteensä 192 Gt:n tallennustilaan. Kun GPU voi käyttää 6 HBF-pakettia ja 2 HBM-rakennuspalikoita, suuren kaistanleveyden salama täydentää nopeaa HBM:ää, joka jatkuu vähäisessä määrin. Koko tallennustilavuus kasvaa 3 120 gigatavuun tai noin 3 TB:iin. Toisessa skenaariossa HBM jopa korvataan kokonaan HBF:llä, joten GPU voi käyttää jopa 4 096 Gt (4 TB) muistia. Sitten jopa 1,8 biljoonaa llm raskas asetus 3,6 Tt muistivaatimuksilla.
Sandisk High Bandwidth Flash (HBF) (Kuva: Sandisk) Kuva 1/2
Esimerkeissä yhden HBM-paketin tallennuskapasiteetti on 24 Gt, kun taas HBF-paketin kokonaiskapasiteetti on 512 Gt – suuren Nand-Flash-alueen ansiosta.
Flash Schema IM Flash High Bandwidth
Kaavio osoittaa, että pinottu HBF kuolee logiikkaan. Tämä HBF-paketti on yhtä paljon kuin GPU:n tai CPU:n tai TPU:n vieressä olevan välilaitteen HBM, riippuen siitä, missä muistia tarvitaan. HBF on tarkoitettu käyttämään samaa sähköistä liitäntää ”pienempien tukien” kanssa. HBF ei ole yhteensopiva HBM:n kanssa.
Sandisk High Bandwidth Flash (HBF) (kuva: Sandisk)
Sama virtausnopeus kuin HBM:llä?
Suuri kysymys on edelleen, kuinka nopeasti HBF voi toimia? Sandiskin mukaan sen pitäisi olla yhtä suuri kuin HBM:n läpijuoksu (kaistanleveys). Normaali NAND-salama on toivottoman huonompi käyttöaikana, mutta lähestyy edelleen koko suorituskyvyn ajan.
Toinen kaavio osoittaa, että Sandisk luottaa HBF:n erityiseen NAND-arkkitehtuuriin, joka on jaettu useisiin verkkoalueisiin, joissa on enemmän datalinjoja ja nopeampi pääsy. Mieleen tulee yhtäläisyyksiä Flash XL:n kanssa. Loppujen lopuksi tällaisen tallennusluokan muistin onnistunut laskeutuminen voi tehdä siitä tuottoisan tekoälykiihdytinmarkkinan, mikäli suunnitelma avautuu.
Sandisk High Bandwidth Flash (HBF) (kuva: Sandisk)
Ei vielä standardia, mutta jo tiekartta
Siihen asti idea on ensin toteutettava. Omien lausuntojensa mukaan Sandisk kehitti HBF-arkkitehtuurin viime vuonna ”Contributions from Big IA Playern”. Nyt on tärkeää muodostaa kumppaneista ja toimialoista koostuva tekninen neuvottelukunta ja saada avoin standardi.
Sandisk High Bandwidth Flash (HBF) (kuva: Sandisk)
Pian selviää, kuinka paljon yhteistä HBF:llä on japanilaisten tutkijoiden vuosia sitten laatiman käsitteen (PDF-tiedosto) kanssa korkean kaistanleveyden NAND (HBN) kanssa.
Vaikka tämä kaikki on vielä tulevaisuuden musiikkia, Sandisk suunnittelee jo seuraaville sukupolville lisää tallennustilaa ja suorituskykyä tiekartan muodossa.
SANDISK High Bandwidth Flash (HBF) (Kuva: Sandisk) Aiheet: RAM Flash Memory
Alice opastaa sinut parhaisiin tallennusratkaisuihin, ultranopeista SSD-levyistä turvallisiin pilvivaihtoehtoihin.
