NVIDIA opracowuje technologie przyspieszonych obliczeń i sztucznej inteligencji wykorzystywane w branży gier, centrach danych, chmurze obliczeniowej, ochronie zdrowia, produkcji, motoryzacji i robotyce. Firma rozwija procesory graficzne, platformy AI, technologie symulacyjne oraz rozwiązania dla konkretnych branż, w tym NVIDIA Omniverse do współpracy przy projektach 3D, NVIDIA DRIVE do rozwoju pojazdów autonomicznych i NVIDIA Clara do zastosowań medycznych. NVIDIA skupia duże zespoły techniczne pracujące nad infrastrukturą i oprogramowaniem wspierającymi zaawansowane obliczenia, symulacje oraz analitykę opartą na sztucznej inteligencji.
Starszy inżynier oprogramowania ds. głębokiego uczenia i inferencji
Twórz i optymalizuj oprogramowanie wykorzystujące GPU do inferencji AI na dużą skalę w NVIDIA. Ulepszaj frameworki open source i wydajność modeli na akceleratorach NVIDIA.
Opis
- Twórz i optymalizuj oprogramowanie wykorzystujące GPU w aplikacjach AI.
- Rozwijaj i utrzymuj frameworki open source do obsługi modeli i inferencji na dużą skalę.
- Ulepszaj platformy inferencyjne oraz wspieraj wdrażanie i obsługę modeli językowych.
- Wdrażaj nowe algorytmy, które będą udostępniane w ramach frameworków inferencyjnych.
- Zwiększaj wydajność zaawansowanych modeli LLM i generatywnej AI na akceleratorach NVIDIA.
- Korzystaj z narzędzi takich jak CUTLASS, OAI Triton, NCCL i jąder CUDA, aby optymalizować potoki obsługi modeli.
- Analizuj i dostrajaj modele głębokiego uczenia dla LLM, rozwiązań multimodalnych i generatywnej AI.
- Skaluj wydajność modeli w różnych architekturach i typach akceleratorów NVIDIA.
- Współtwórz funkcje i kod dla bibliotek inferencyjnych NVIDIA, vLLM, SGLang, FlashInfer oraz oprogramowania LLM.
- Współpracuj z zespołami zajmującymi się frameworkami, bibliotekami NVIDIA i rozwiązaniami do optymalizacji inferencji.
Wymagania
- Tytuł magistra, doktora lub równoważne doświadczenie w odpowiedniej dziedzinie, takiej jak inżynieria komputerowa, informatyka, elektrotechnika i informatyka (EECS) lub AI.
- Co najmniej pięć lat doświadczenia w tworzeniu oprogramowania w odpowiednim obszarze.
- Bardzo dobra znajomość C/C++ i umiejętności projektowania oprogramowania.
- Doświadczenie w zwinnych metodykach tworzenia oprogramowania będzie atutem.
- Znajomość Pythona będzie dodatkowym atutem.
- Praktyczne doświadczenie w trenowaniu, wdrażaniu lub optymalizacji inferencji modeli głębokiego uczenia w środowisku produkcyjnym będzie dodatkowym atutem.
- Doświadczenie w modelowaniu wydajności, profilowaniu, debugowaniu i optymalizacji kodu lub znajomość architektury CPU i GPU będzie dodatkowym atutem.
- Doświadczenie w programowaniu GPU z użyciem CUDA, OAI Triton lub CUTLASS będzie dodatkowym atutem.
- Doświadczenie we współtworzeniu projektów oprogramowania do głębokiego uczenia, takich jak PyTorch, vLLM lub SGLang.
- Doświadczenie w komunikacji między wieloma GPU, w tym z użyciem NCCL lub NVSHMEM.
Benefity
- Kompleksowy pakiet świadczeń.
- Udziały kapitałowe.