Tensorrt for RTX: Optimoi automaattisesti Inference II:n jokaiselle Nvidia GPU:lle

Tensorrt for RTX: AI-optimoitu päättely jokaiselle GPU:lle automaattisesti 0 kommenttia

Tensorrt for RTX: Optimoi Inference II automaattisesti jokaiselle Nvidia GPU:lle

Kuva: nvidia

Se on helppoa peleissä: 3D-sovellusliittymillä, kuten tai Vulkan, uusia laitteita tuetaan suoraan ja ne toimivat yleensä nopeammin ilman lisäsäätöjä. Tekoälyohjelmiston tapauksessa tämä ei kuitenkaan pidä paikkaansa samalla tavalla kuin kuluttajatietokonepohjaisilla tekoälyohjelmistoilla testaus on osoittanut NVIDIAn Blackwell-näytönohjainkorteissa.

Tällä hetkellä on ongelmia ilman erillistä optimointia

Kaikkialla toimivaan DirectML-API:iin tämä ongelma ei näytä vaikuttavan niin paljon, mutta -kortteihin erikoistunut ja optimoitu Nvidia vaikuttaa vielä enemmän. Ilman yhtäkään sovitusta, joka on luultavasti huomattu parhaassa tapauksessa jokaiselle GPU:lle, suorituskyky uusilla laitteistoilla ei kasva – eikä ohjelma edes toimi niin harvoin.

Tämän odotetaan nyt muuttuvan, kuten Nvidia ilmoitti Build Von -kehittäjätapahtumassa. ”Tensorrt for RTX” -nimen alla Nvidia tarjoaa päivitetyn version omista ohjelmistotyökaluistaan, joiden avulla kehittäjien ei enää tulevaisuudessa tarvitse optimoida ohjelmaansa jokaiselle GPU:lle, joskus jokaiselle näytönohjainmallille.

Viivain optimoidaan automaattisesti omaa GPU:ta varten

Tensorrt tekee tämän automaattisesti RTX:lle tulevaisuudessa. Jatkossa Tensorrt-optimointi tapahtuu reaaliajassa omalla tietokoneellasi ja kestää muutaman sekunnin. Jos prosessi on valmis, Tensorrt-suorituskyvyn tulisi olla sama kuin jos kehittäjä olisi ajanut ohjelman omalle näytönohjaimelleen manuaalisesti. Tämän lisäksi Tensorrtin uuden version odotetaan olevan vain kahdeksas niin suuri kuin vanha – oletettavasti siksi, että kaikkien GPU:iden optimointeja ei enää tarvitse sisällyttää.

Tensorrtin uusi versio, kuten vanhemmat versiot, toimii kaikilla GeForce-RTX-näytönohjainkorteilla.

Tensorrt for RTX on ladattavissa Nvidian kehittäjäpuolelta Juniksen aikana ja voidaan integroida omaan ohjelmistoosi sieltä. Joillakin kehittäjillä on myös ominaisuuteen, ja Nvidia odottaa ohjelman ensimmäisiä versioita täällä kesäkuun aikana.

Techastuce sai tiedot NVIDIAlta etukäteen. Nämä asetettiin saataville NDA:n alla. Ainoa vaatimus oli aikaisin mahdollinen julkaisuajankohta. Valmistajalla ei ollut vaikutusta raporttiin, julkaisuvelvollisuutta ei ollut.

Aiheet: Calcutex 2025 GeForce Graphics Cards nvidia

Kommentoi

Sähköpostiosoitettasi ei julkaista. Pakolliset kentät on merkitty *

Scroll to Top