DGX Cloud Lepton: Nvidia erbjuder ”Ride-Sharing App” för AI-Compute vid 5 kommentarer
Bild: nvidia
Nvidia vill förenkla tillgången till AI-beräkningar i molnet och har skapat en marknad med DGX Cloud Lepton. I Computex pre-show förklarade Nvidia att DGX Cloud Lepton är något som en ”åkdelningsapp” för AI-datorer, där istället för förare och gäster, utvecklare och GPU:er sammanförs.
För DGX Cloud Lepton kommer NVIDIA Cloud Partner (NCP) så kallad inom NVIDIA Partner Network (NPN) till tåget. Dessa molnpartner skiljer sig från andra allmänna molnleverantörer som AWS, Azure eller Google Cloud genom att fokusera på NVIDIA:s ekosystem och uttryckligen använda en referensarkitektur med NVIDIA GPU:er som Blackwell eller Hopper, Nvidias nätverkstekniker och användningen av NVIDIA AI Enterprise-programvara. Om ditt eget projekt är designat för detta ekosystem kan det resultera i högre prestanda. NCP har också direkt tillgång till tjänster som NIMS (Inference Microservices), Nvidia NEMO eller ”Bare Metal” utan hyperskalarens virtualisering.
En komplett åtkomstplattform
Som en global åtkomstplattform och AI-marknadsplats har NVIDIA nu planerat DGX Cloud Lepton så att utvecklare inte längre behöver kontakta enskilda leverantörer eller välja dem först, utan även ha tillgång till den globalt distribuerade NVIDIA Cloud Partner. Det finns även Coreweave, Crusoe, Firmus, Foxconn, GMI Cloud, Lambda, Nebius, Nscale, SoftBank och Yotta Data Services, The Blackwell och andra Nvidia GPU-arkitekturer på marknaden. Enligt NVIDIA kommer nätverket också att utökas till att omfatta molntjänsteleverantörer (CSP) och andra GPU-marknader.
AI-fabriker i planetarisk skala
AI-utvecklare kan komma åt titelspecifik och regionspecifik GPU-prestanda med bara några klick genom användargränssnittet, enligt NVIDIA för både kortsiktiga förfrågningar och långsiktiga projekt. ”NVIDIA DGX Cloud Lepton kopplar samman vårt nätverk av globala GPU-molnleverantörer med AI-utvecklare”, säger Nvidias vd Jensen Huang. Chefen, som inte är sparsam, talade om de planetariska AI-fabrikerna som kan erbjudas med DGX Cloud Lepton.
Plattform även för diagnostik
För molnleverantörer kan DGX Cloud Lepton fungera som hanteringsprogramvara för att diagnostisera GPU-tillstånd i realtid, hitta felkällor och minimera driftstopp. Från NVIDIA, specifikt med DGX Cloud Benchmarking, kommer infrastrukturen som utvärderas att köras under namnet Nvidia Clouds. PNF bör kunna gå igenom denna nya certifiering först, med början med Yotta Data Services för Asien-Stillahavsområdet.
Ämnen: Cloud Computing Computex 2025 grafikkort Artificiell intelligens Nvidia Källa: Nvidia
Ingenjör i grunden, Alexandre delar sin kunskap om GPU-prestanda för spel och skapande.
