NVIDIA utvikler teknologier for akselerert databehandling og kunstig intelligens som brukes innen spill, datasentre, nettskybasert databehandling, helsetjenester, produksjon, bilindustri og robotikk. Arbeidet omfatter grafikkprosessorer, AI-plattformer, simulering og bransjespesifikke løsninger, blant annet NVIDIA Omniverse for samarbeidende 3D-arbeidsflyter, NVIDIA DRIVE for utvikling av autonome kjøretøy og NVIDIA Clara for helsetjenester. Selskapet samler store tekniske team som arbeider med infrastrukturen og programvaren som støtter avansert databehandling, simulering og AI-drevet analyse.
Senior programvareingeniør innen dyp læring og inferens
Bygg og finjuster GPU-akselerert programvare for AI-inferens i stor skala hos NVIDIA. Forbedre rammeverk med åpen kildekode for modellservering og modellens ytelse på tvers av NVIDIAs akseleratorer.
Beskrivelse
- Bygg og optimaliser GPU-akselerert programvare for AI-applikasjoner.
- Utvikle og vedlikehold rammeverk med åpen kildekode for storskala modellservering og inferens.
- Forbedre inferensplattformer og støtte utrulling og servering av språkmodeller.
- Implementere nye algoritmer for utgivelse gjennom inferensrammeverk.
- Skape ytelsesforbedringer for avanserte LLM- og generative AI-modeller på tvers av NVIDIAs akseleratorer.
- Bruke verktøy som CUTLASS, OAI Triton, NCCL og CUDA-kjerner for å optimalisere pipelines for modellservering.
- Analysere og finjustere dyp læringsmodeller innen LLM, multimodal AI og generativ AI.
- Skalere modellens ytelse på tvers av arkitekturer og ulike typer NVIDIA-akseleratorer.
- Bidra med funksjoner og kode til NVIDIAs inferensbiblioteker, vLLM, SGLang, FlashInfer og LLM-programvare.
- Samarbeide med team på tvers av rammeverk, NVIDIAs biblioteker og løsninger for inferensoptimalisering.
Krav
- Mastergrad, doktorgrad eller tilsvarende erfaring innen et relevant fagområde, for eksempel datateknikk, informatikk, EECS eller AI.
- Minst fem års relevant erfaring med programvareutvikling.
- Gode ferdigheter innen C/C++-programmering og programvaredesign.
- Erfaring med smidig programvareutvikling er en fordel.
- Erfaring med Python er en fordel.
- Produksjonserfaring med trening, utrulling eller optimalisering av inferens for dyp læringsmodeller er en fordel.
- Erfaring med ytelsesmodellering, profilering, feilsøking og kodeoptimalisering, eller kunnskap om CPU- og GPU-arkitektur, er en fordel.
- Erfaring med GPU-programmering med CUDA, OAI Triton eller CUTLASS er en fordel.
- Erfaring med å bidra til programvareprosjekter innen dyp læring som PyTorch, vLLM eller SGLang.
- Erfaring med kommunikasjon mellom flere GPU-er, inkludert NCCL eller NVSHMEM.
Fordeler
- Omfattende fordelspakke.
- Aksjer.