NVIDIA
NVIDIA
NVIDIA ontwikkelt technologieën voor versnelde computing en kunstmatige intelligentie die worden gebruikt in gaming, datacenters, cloudcomputing, de gezondheidszorg, productie, de auto-industrie en robotica. Het bedrijf richt zich op grafische verwerkingseenheden, AI-platforms, simulatie en branchespecifieke oplossingen, waaronder NVIDIA Omniverse voor collaboratieve 3D-workflows, NVIDIA DRIVE voor de ontwikkeling van autonome voertuigen en NVIDIA Clara voor toepassingen in de gezondheidszorg. NVIDIA brengt grote technische teams samen die werken aan de infrastructuur en software voor geavanceerde computing, simulatie en AI-gestuurde analyses.

Senior software-engineer voor deep-learning-inferentie

Ontwikkel en optimaliseer GPU-versnelde software voor AI-inferentie op grote schaal bij NVIDIA. Verbeter open-source servingframeworks en modelprestaties op NVIDIA-accelerators.

Beschrijving

  • Ontwikkel en optimaliseer GPU-versnelde software voor AI-toepassingen.
  • Ontwikkel en onderhoud open-sourceframeworks voor het serveren en uitvoeren van inferentie op grote modellen.
  • Verbeter inferentieplatforms en ondersteun de implementatie en het serveren van taalmodellen.
  • Implementeer nieuwe algoritmen voor release via inferentieframeworks.
  • Verbeter de prestaties van geavanceerde LLM- en generatieve-AI-modellen op NVIDIA-accelerators.
  • Gebruik tools zoals CUTLASS, OAI Triton, NCCL en CUDA-kernels om pipelines voor modelserving te optimaliseren.
  • Analyseer en optimaliseer deep-learningmodellen voor LLM's, multimodale AI en generatieve AI.
  • Schaal modelprestaties over architecturen en verschillende typen NVIDIA-accelerators.
  • Draag functies en code bij aan NVIDIA-inferentiebibliotheken, vLLM, SGLang, FlashInfer en LLM-software.
  • Werk samen met teams op het gebied van frameworks, NVIDIA-bibliotheken en oplossingen voor inferentieoptimalisatie.

Vereisten

  • Masterdiploma, PhD of gelijkwaardige ervaring in een relevant vakgebied, zoals computer engineering, informatica, EECS of AI.
  • Minimaal vijf jaar relevante ervaring in softwareontwikkeling.
  • Sterke vaardigheden in C/C++-programmering en softwareontwerp.
  • Ervaring met agile softwareontwikkeling is een pré.
  • Ervaring met Python is een pré.
  • Praktijkervaring met het trainen, implementeren of optimaliseren van deep-learninginferentie is een pré.
  • Ervaring met prestatiemodellering, profilering, foutopsporing en codeoptimalisatie, of kennis van CPU- en GPU-architectuur, is een pré.
  • Ervaring met GPU-programmering met CUDA, OAI Triton of CUTLASS is een pré.
  • Ervaring met bijdragen aan deep-learningsoftwareprojecten zoals PyTorch, vLLM of SGLang.
  • Ervaring met communicatie tussen meerdere GPU's, waaronder NCCL of NVSHMEM.

Voordelen

  • Uitgebreid pakket aan arbeidsvoorwaarden.
  • Aandelenparticipatie.

Gerelateerde vacatures

Parexel

Senior Clinical Research Associate (freelance) – Australië

Parexel

Begeleid voor Parexel klinische onderzoekscentra in heel Australië en bewaak de naleving van het protocol, de datakwaliteit, documentatie en onderzoeksresultaten. Deze freelanceopdracht omvat de activiteiten bij onderzoekscentra vanaf de start van het onderzoek tot en met de afsluiting.

Openen