DGX Cloud Lepton: Nvidia tilbyder “Ride-Sharing App” til AI-Compute med 5 kommentarer
Billede: nvidia
Nvidia ønsker at forenkle adgangen til AI computing i skyen og har skabt et marked med DGX Cloud Lepton. I Computex pre-show forklarede Nvidia, at DGX Cloud Lepton er noget i retning af en “ride-sharing app” til AI-computere, hvor i stedet for drivere og gæster, udviklere og GPU’er samles.
For DGX Cloud Lepton kommer NVIDIA Cloud Partner (NCP) Såkaldt indenfor NVIDIA Partner Network (NPN) til toget. Disse cloud-partnere adskiller sig fra andre generelle cloud-udbydere såsom AWS, Azure eller Google Cloud ved at fokusere på NVIDIA-økosystemet og eksplicit bruge en referencearkitektur med NVIDIA GPU’er såsom Blackwell eller Hopper, Nvidia-netværksteknologier og brugen af NVIDIA AI Enterprise-software. Hvis dit eget projekt er designet til dette økosystem, kan det resultere i højere ydeevne. NCP’er har også direkte adgang til tjenester som NIMS (Inference Microservices), Nvidia NEMO eller “Bare Metal” uden hyperscalerens virtualisering.
En komplet adgangsplatform
Som en global adgangsplatform og AI-markedsplads har NVIDIA nu planlagt DGX Cloud Lepton, så udviklere ikke længere skal kontakte individuelle leverandører eller vælge dem først, men også har adgang til den globalt distribuerede NVIDIA Cloud Partner. Der er også Coreweave, Crusoe, Firmus, Foxconn, GMI Cloud, Lambda, Nebius, Nscale, SoftBank og Yotta Data Services, The Blackwell og andre Nvidia GPU-arkitekturer på markedet. Ifølge NVIDIA vil netværket også blive udvidet til at omfatte cloud-tjenesteudbydere (CSP’er) og andre GPU-markeder.
AI-fabrikker på planetarisk skala
AI-udviklere kan få adgang til titelspecifik og regionsspecifik GPU-ydelse med blot et par klik gennem brugergrænsefladen, ifølge NVIDIA for både kortsigtede anmodninger og langsigtede projekter. “NVIDIA DGX Cloud Lepton forbinder vores netværk af globale GPU-sky-udbydere med AI-udviklere,” sagde Nvidias administrerende direktør Jensen Huang. Chefen, som ikke er sparsom, talte om de planetariske AI-fabrikker, der kan tilbydes med DGX Cloud Lepton.
Platform også til diagnostik
For cloud-udbydere kan DGX Cloud Lepton fungere som administrationssoftware til at diagnosticere GPU-sundhed i realtid, finde fejlkilder og minimere nedetid. Fra NVIDIA, specifikt med DGX Cloud Benchmarking, vil den infrastruktur, der evalueres, blive kørt under navnet Nvidia Clouds. PNF bør være i stand til at gennemgå denne nye certificering først, begyndende med Yotta Data Services for Asien-Stillehavsområdet.
Emner: Cloud Computing Computex 2025 grafikkort kunstig intelligens Nvidia Kilde: Nvidia
Alexandre, uddannet ingeniør, deler sin viden om GPU-ydeevne til gaming og kreativt arbejde.
