
MWDN to firma świadcząca usługi IT i zajmująca się tworzeniem oprogramowania, która pomaga przedsiębiorstwom budować i rozwijać produkty cyfrowe na platformy internetowe, mobilne i desktopowe. Własny zespół inżynierski wspiera realizację projektów klientów poprzez uzupełnianie zespołów, dedykowane zespoły deweloperskie oraz międzynarodową rekrutację specjalistów IT. Dzięki centrom realizacji projektów w Europie Środkowej i Wschodniej MWDN łączy organizacje ze Stanów Zjednoczonych, Europy i Izraela z utalentowanymi specjalistami IT przy dopasowanych i racjonalnych kosztowo projektach technologicznych.
Inżynier CUDA, inferencja LLM (zdalnie, Uzbekistan)
Optymalizuj inferencję LLM na nowoczesnych GPU, pracując z kernelami CUDA i frameworkami do obsługi modeli. Dołącz do MWDN, by pracować nad projektami z zakresu systemów AI i obliczeń wysokiej wydajności.
Opis
- Poprawiaj wydajność inferencji LLM na nowoczesnych GPU.
- Korzystaj z frameworków do inferencji i obsługi modeli, takich jak vLLM, SGLang i TensorRT-LLM.
- Analizuj wykonywanie zadań na GPU, dostęp do pamięci, wydajność kerneli i wąskie gardła inferencji.
- Twórz, dostrajaj, debuguj lub odtwarzaj działanie kerneli CUDA i niskopoziomowych operacji GPU.
- Badaj metody optymalizacji mnożenia macierzy, mechanizmów uwagi i warstw sieci neuronowych.
- Testuj wydajność systemów i szukaj sposobów na poprawę opóźnień, przepustowości oraz wykorzystania GPU.
- Rozwiązuj trudne problemy na styku systemów AI i obliczeń wysokiej wydajności.
- Prowadź praktyczne eksperymenty i analizuj niskopoziomowe działanie systemów.
Wymagania
- Masz duże praktyczne doświadczenie w pracy z CUDA i programowaniu GPU.
- Dogłębnie znasz architekturę GPU, hierarchie pamięci, wykonywanie równoległe i dostrajanie wydajności.
- Masz doświadczenie w inferencji LLM, systemach AI, kernelach GPU lub obliczeniach wysokiej wydajności.
- Znasz co najmniej jedno z narzędzi: vLLM, SGLang, TensorRT-LLM, Triton lub FlashAttention.
- Potrafisz diagnozować złożone problemy z wydajnością i analizować niskopoziomowe działanie systemów.
- Masz wysoko rozwinięte umiejętności rozwiązywania problemów.
- Potrafisz skutecznie przekazywać złożone treści techniczne po angielsku.
- Stopień doktora lub doświadczenie badawcze w informatyce, uczeniu maszynowym, architekturze komputerów lub pokrewnej dziedzinie będzie dodatkowym atutem.
- Publikacje naukowe, praca projektowa lub znaczący wkład w projekty open source dotyczące infrastruktury GPU lub LLM będą dodatkowym atutem.
- Doświadczenie z wewnętrznymi mechanizmami PyTorch, inferencją rozproszoną, kwantyzacją, dostrajaniem pamięci podręcznej KV lub niestandardowymi kernelami GPU będzie dodatkowym atutem.
- Wkład w vLLM, SGLang, Triton, FlashAttention lub powiązane repozytoria będzie dodatkowym atutem.
Benefity
- Weryfikacja klientów mająca ograniczać ryzyko i wspierać terminowe, niezawodne płatności.
- Doradztwo zawodowe i pomoc w znajdowaniu przyszłych możliwości.
- Porady prawne dotyczące pracy na własny rachunek lub prowadzenia jednoosobowej działalności, podatków i powiązanych spraw.
- Lekcje angielskiego i możliwości rozwoju zawodowego.
- Integracyjne wydarzenia zespołowe.
- Elastyczne godziny pracy.
- 29 dni płatnego wolnego: 18 dni roboczych rocznie oraz święta państwowe.
- 10 płatnych dni na regenerację.
- Wsparcie finansowe i prawne dla niezależnych kontraktorów.
- Bezpłatne lekcje angielskiego z native speakerami lub ukraińskimi nauczycielami.
- Dedykowane wsparcie HR.
- Zarządzanie stawiające ludzi na pierwszym miejscu i ograniczona biurokracja.
- Przyjazna kultura firmy.
Powiązane oferty pracy
Nie znaleziono ofert pracy
Spróbuj zmienić lub wyczyścić filtry, aby znaleźć więcej możliwości.