Flash de alta largura de banda: Sandisk planeja armazenamento gigante para acelerador de IA 16 comentários
Imagem: Sanisk
A Sandisk em breve será digitalmente independente após se separar da Western e terá grandes planos para o futuro. Um deles é o High Bandwidth Flash (HBF), que deve fornecer às GPUs muito mais memória do que seria possível com a memória de alta largura de banda (HBM) anterior.
HBF deve complementar e substituir HBM
A princípio a ideia pode parecer absurda, pois como se sabe, o NAND-Flash é consideravelmente mais lento que o DRAM, como está empilhado no HBM. No entanto, Sander com o flash de alta largura de banda prevê o uso (adicional) de flash NAND, que é cortado em uma largura de banda alta, que deveria usar as GPUs ao usar modelos de IA, a chamada inferência de IA, com bastante espaço de armazenamento.
Pelo menos 8 vezes mais memória do que com HBM
A cada nova geração de memória de alta largura de banda, surgem maiores capacidades de armazenamento que chegam a 192 GB, por exemplo, pela IA da AMD e da NVIDIA. Mas com o High Bandwidth Flash (HBF), a Sandisk quer permitir uma capacidade de armazenamento uniforme de 8 a 16 vezes a custos comparáveis.
Dois cenários são ilustrados graficamente e uma solução convencional é comparada com 8 pacotes HBM e um total de 192 GB de volume de armazenamento. Depois que a GPU pode acessar 6 pacotes HBF e 2 blocos de construção HBM, o flash de alta largura de banda complementa o rápido HBM, que continua em pequena extensão. Todo o volume de armazenamento aumenta para 3.120 GB ou aproximadamente 3 TB. No segundo cenário, o HBM é até completamente substituído pelo HBF, para que a GPU possa acessar até mesmo a memória de 4.096 GB (4 TB). Depois, até mesmo uma configuração pesada de 1,8 trilhão de lm com requisitos de memória de 3,6 TB.
Sandisk High Bandwidth Flash (HBF) (Imagem: Sandisk) Imagem 1 de 2
Nos exemplos, um único pacote HBM tem capacidade de armazenamento de 24 GB, enquanto um pacote HBF chega a um total de 512 GB — graças à grande área de Nand-Flash.
Esquema Flash IM Flash Alta largura de banda
Um diagrama mostra que o HBF empilhado morre na lógica. Este pacote HBF é igual ao HBM em um intermediário próximo à GPU ou CPU ou TPU, dependendo de onde a memória é necessária. O HBF pretende usar a mesma interface elétrica com “toras menores”. HBF não será compatível com HBM.
Flash de alta largura de banda Sandisk (HBF) (Imagem: Sandisk)
Mesma taxa de fluxo do HBM?
A grande questão permanece: quão rápido o HBF pode funcionar? Segundo a Sandisk, deve ser igual ao throughput (largura de banda) do HBM. O flash NAND normal é irremediavelmente inferior durante as horas de acesso, mas continua a se aproximar durante todo o rendimento.
Outro gráfico indica que a Sandisk conta com uma arquitetura NAND especial na HBF, que é dividida em múltiplos domínios com mais linhas de dados e acesso mais rápido. Os paralelos com o Flash XL vêm à mente. Em última análise, um pouso tão bem-sucedido da memória de classe de armazenamento desse tipo poderia torná-la o lucrativo mercado de aceleradores de IA, desde que o plano seja aberto.
Flash de alta largura de banda Sandisk (HBF) (Imagem: Sandisk)
Ainda não há um padrão, mas já é um roteiro
Até então, a ideia deve primeiro ser implementada. De acordo com suas próprias declarações, a Sandisk desenvolveu a arquitetura HBF no ano passado com “Contribuições da Big IA Playern”. Agora é importante formar um conselho consultivo técnico de parceiros e tamanhos de indústria e obter um padrão aberto.
Flash de alta largura de banda Sandisk (HBF) (Imagem: Sandisk)
Em breve será mostrado o quanto o HBF tem em comum com o conceito (arquivo PDF) de NAND de alta largura de banda (HBN), formulado anos atrás por pesquisadores japoneses.
Embora tudo isso ainda seja música do futuro, a Sandisk já está planejando para as gerações subsequentes mais armazenamento e desempenho na forma de um roteiro.
SANDISK High Bandwidth Flash (HBF) (Imagem: Sandisk) Tópicos: Memória Flash RAM
Alice orienta você pelas melhores soluções de armazenamento, de SSDs ultrarrápidos a opções seguras na nuvem.
