Tensorrt para RTX: Inferencia de IA optimizada para cada GPU Nvidia automáticamente 0 comentarios
Imagen: nvidia
En los juegos es fácil: con API 3D como DirectX o Vulkan, el nuevo hardware se soporta directamente y normalmente funciona más rápido sin ajustes adicionales. En el caso del software de IA, sin embargo, esto no sucede como lo han demostrado las pruebas con software de IA de consumo en bases de datos informáticas en las tarjetas gráficas Blackwell de NVIDIA.
Actualmente existen problemas sin optimización independiente.
La API DirectML, que funciona en todas partes, no parece verse tan afectada por este problema, pero Nvidia, que se especializa y optimiza para tarjetas GeForce, parece verse aún más afectada. Sin una sola adaptación, probablemente notada en el mejor de los casos para cada GPU, el rendimiento con nuevo hardware no aumenta, y el programa ni siquiera funciona tan raramente.
Esto ahora debería cambiar, como anunció Nvidia en el evento para desarrolladores Build Von de Microsoft. Bajo el nombre “Tensorrt for RTX”, Nvidia ofrece una versión revisada de sus propias herramientas de software, con la que en el futuro ya no será necesario que los desarrolladores tengan que optimizar su programa para cada GPU, a veces para cada modelo de tarjeta gráfica.
La regla se optimiza automáticamente para su propia GPU
Tensorrt hará esto automáticamente para RTX en el futuro. En el futuro, la optimización de Tensorrt se realizará en tiempo real en su propia PC y debería tomar unos segundos. Si el proceso se completa, el rendimiento de Tensorrt debería ser el mismo que si el desarrollador hubiera ejecutado el programa manualmente para su propia tarjeta gráfica. A esto se suma que se espera que la nueva versión de Tensorrt sea solo una octava parte del tamaño de la anterior, probablemente porque ya no es necesario incluir optimizaciones para todas las GPU.
La nueva versión de Tensorrt, al igual que las variantes anteriores, funcionará en todas las tarjetas gráficas GeForce-RTX.
Tensorrt para RTX estará disponible para descargar desde el lado de desarrolladores de Nvidia durante junio y se podrá integrar en su propio software desde allí. Algunos desarrolladores también tienen acceso anticipado a la función; Nvidia espera las primeras versiones del programa durante junio.
Techastuce recibió la información de NVIDIA con antelación. Estos se pusieron a disposición bajo NDA. El único requisito era que la publicación fuera lo más temprana posible. El fabricante no tuvo ninguna influencia en el informe y no existía ninguna obligación de publicarlo.
Temas: Calcutex 2025 Tarjetas gráficas GeForce nvidia
Ingeniero de formación, Alexandre comparte sus conocimientos sobre el rendimiento de las GPUs para gaming y creación.
