Flash de alto ancho de banda: Sandisk planea almacenamiento gigante para el acelerador de IA 16 comentarios
Imagen: Sanisk
Sandisk pronto será digitalmente independiente después de separarse de Western y tendrá grandes planes para el futuro. Uno de ellos es High Bandwidth Flash (HBF), que debería proporcionar a las GPU mucha más memoria de la que sería posible con la anterior High Bandwidth Memory (HBM).
HBF debería complementar y sustituir a HBM
Al principio la idea puede parecer absurda, porque como es bien sabido, la NAND-Flash es considerablemente más lenta que la DRAM, como la que viene apilada en HBM. Sin embargo, Sander con el flash de alto ancho de banda prevé el uso (adicional) de flash NAND, que se corta en un ancho de banda alto, que se supone que utiliza las GPU cuando se utilizan modelos de IA, la llamada inferencia de IA, con mucho espacio de almacenamiento.
Al menos 8 veces más memoria que con HBM
Con cada nueva generación de memorias de gran ancho de banda, hay mayores capacidades de almacenamiento que llegan a los 192 GB, por ejemplo, mediante la IA de AMD y NVIDIA. Pero con High Bandwidth Flash (HBF), Sandisk quiere permitir una capacidad de almacenamiento uniforme de 8 a 16 veces a costos comparables.
Se ilustran gráficamente dos escenarios y se compara una solución convencional con 8 paquetes HBM y un total de 192 GB de volumen de almacenamiento. Después de que la GPU puede acceder a 6 paquetes HBF y 2 bloques de construcción HBM, el flash de gran ancho de banda complementa el rápido HBM, que continúa en pequeña medida. El volumen total de almacenamiento aumenta a 3.120 GB o aproximadamente 3 TB. En el segundo escenario, el HBM incluso se reemplaza completamente por HBF, por lo que la GPU puede acceder incluso a los 4.096 GB (4 TB) de memoria. Luego, incluso una configuración pesada de 1,8 billones de lm con requisitos de memoria de 3,6 TB.
Flash de alto ancho de banda de Sandisk (HBF) (Imagen: Sandisk) Imagen 1 de 2
En los ejemplos, un único paquete HBM tiene una capacidad de almacenamiento de 24 GB, mientras que un paquete HBF alcanza un total de 512 GB, gracias a la gran superficie de Nand-Flash.
Esquema Flash IM Flash Alto ancho de banda
Un diagrama muestra que el HBF apilado muere por lógica. Este paquete HBF es tan grande como el HBM en un intercalador al lado de la GPU, CPU o TPU, dependiendo de dónde se necesite la memoria. El HBF está destinado a utilizar la misma interfaz eléctrica con “troncos más pequeños”. HBF no será compatible con HBM.
Flash de alto ancho de banda de Sandisk (HBF) (Foto: Sandisk)
¿El mismo caudal que con HBM?
La gran pregunta sigue siendo: ¿a qué velocidad puede funcionar el HBF? Según Sandisk, debería ser igual al rendimiento (ancho de banda) de HBM. La memoria flash NAND normal es irremediablemente inferior durante las horas de acceso, pero continúa acercándose en todo el rendimiento.
Otro gráfico indica que Sandisk se basa en una arquitectura NAND especial en HBF, que se divide en múltiples dominios con más líneas de datos y acceso más rápido. Me vienen a la mente los paralelos con el Flash XL. En última instancia, un aterrizaje tan exitoso de la clase de memoria de almacenamiento de este tipo podría convertirlo en el lucrativo mercado de aceleradores de IA, siempre que el plan se abra.
Flash de alto ancho de banda de Sandisk (HBF) (Foto: Sandisk)
Aún no hay un estándar, pero ya hay una hoja de ruta
Hasta entonces, primero hay que implementar la idea. Según sus propias declaraciones, Sandisk desarrolló la arquitectura HBF el año pasado con “contribuciones de Big IA Playern”. Ahora es importante formar un consejo asesor técnico formado por socios y tamaños de la industria y conseguir un estándar abierto.
Flash de alto ancho de banda de Sandisk (HBF) (Foto: Sandisk)
Próximamente se demostrará cuánto tiene en común HBF con el concepto (archivo PDF) de NAND de gran ancho de banda (HBN), formulado hace años por investigadores japoneses.
Si bien todo esto sigue siendo música del futuro, Sandisk ya está planificando para las generaciones posteriores más almacenamiento y rendimiento en forma de hoja de ruta.
SANDISK Flash de alto ancho de banda (HBF) (Imagen: Sandisk) Temas: Memoria flash RAM
Alice te guía a través de las mejores soluciones de almacenamiento, desde SSD ultrarrápidos hasta opciones en la nube seguras.
