Tensorrt per RTX: inferenza AI ottimizzata automaticamente per ogni GPU Nvidia 0 commenti
Immagine: nvidia
Nei giochi è semplice: con API 3D come DirectX o Vulkan, il nuovo hardware è supportato direttamente e solitamente funziona più velocemente senza ulteriori adattamenti. Nel caso del software di intelligenza artificiale, tuttavia, le cose non stanno così, come hanno dimostrato i test con software di intelligenza artificiale consumer su basi computerizzate nelle schede grafiche Blackwell di NVIDIA.
Attualmente ci sono problemi senza un’ottimizzazione separata
L’API DirectML, che funziona ovunque, non sembra essere particolarmente interessata da questo problema, ma Nvidia, specializzata e ottimizzata per le schede GeForce, sembra esserlo ancora di più. Senza un singolo adattamento, probabilmente notato nel migliore dei casi per ogni GPU, le prestazioni con il nuovo hardware non aumentano e il programma non funziona nemmeno così raramente.
Ora la situazione dovrebbe cambiare, come annunciato da Nvidia all’evento per sviluppatori Build Von di Microsoft. Con il nome “Tensorrt for RTX”, Nvidia fornisce una versione rivista dei propri strumenti software, con la quale in futuro gli sviluppatori non dovranno più ottimizzare il loro programma per ogni GPU, a volte per ogni modello di scheda grafica.
Il righello è automaticamente ottimizzato per la tua GPU
In futuro, questa operazione verrà eseguita automaticamente da Tensorrt per RTX. In futuro, l’ottimizzazione di Tensorrt avverrà in tempo reale sul tuo PC e dovrebbe richiedere alcuni secondi. Una volta completato il processo, le prestazioni di Tensorrt dovrebbero essere le stesse come se lo sviluppatore avesse eseguito manualmente il programma sulla propria scheda grafica. A ciò si aggiunge il fatto che si prevede che la nuova versione di Tensorrt sarà grande solo un ottavo rispetto alla vecchia, presumibilmente perché non sarà più necessario includere ottimizzazioni per tutte le GPU.
La nuova versione di Tensorrt, come le varianti precedenti, funzionerà su tutte le schede grafiche GeForce-RTX.
Tensorrt per RTX sarà disponibile per il download dal lato sviluppatori di Nvidia durante Junis e da lì potrà essere integrato nel tuo software. Anche alcuni sviluppatori hanno accesso anticipato alla funzionalità: Nvidia prevede che le prime versioni del programma saranno disponibili qui a giugno.
Techastuce ha ricevuto in anticipo le informazioni da NVIDIA. Sono stati resi disponibili tramite NDA. L’unico requisito era che la pubblicazione avvenisse il più presto possibile. Il produttore non ha avuto alcuna influenza sul rapporto, non vi era alcun obbligo di pubblicazione.
Argomenti: Schede grafiche GeForce Calcutex 2025 nvidia
Ingegnere di formazione, Alexandre condivide le sue conoscenze sulle prestazioni delle GPU per gaming e creazione.
