Designworks Talent LLC to firma rekrutacyjna i doradcza specjalizująca się w zarządzaniu talentami, obsługująca szybko rozwijające się startupy oraz globalne przedsiębiorstwa. Założona w 2009 roku, łączy doświadczenie rekruterów z narzędziami wykorzystującymi sztuczną inteligencję, aby wspierać szybsze i bardziej precyzyjne zatrudnianie. Firma prowadzi kompleksowe procesy rekrutacyjne, rekrutację projektową i elastyczną współpracę na żądanie, a także wspiera skalowanie strategii zatrudniania i operacji rekrutacyjnych, przywództwo w zakresie pozyskiwania talentów w przedsiębiorstwach, wyszukiwanie kandydatów oparte na danych oraz doświadczenie kandydatów. Takie podejście zapewnia organizacjom elastyczne wsparcie w miarę zmieniających się potrzeb rekrutacyjnych.
Starszy inżynier systemów inferencji — praca hybrydowa w Bellevue
Kieruj rozwojem produkcyjnych systemów obsługi modeli dla firmy tworzącej infrastrukturę AI. Zwiększaj wykorzystanie GPU, poprawiaj opóźnienia, przepustowość, skalowalność i niezawodność w wielkoskalowych obciążeniach AI.
Opis
- Tworzyć i obsługiwać produkcyjne systemy serwowania modeli i inferencji dla obciążeń AI o wysokiej przepustowości i niskich opóźnieniach
- Optymalizować infrastrukturę inferencji pod kątem przepustowości tokenów, opóźnień, skalowalności i efektywności kosztowej dla różnych modeli i obciążeń
- Projektować systemy efektywnie wykorzystujące GPU oraz zapewniające stałą wydajność i niezawodność
- Rozwijać skalowalność platformy inferencji i zwiększać jej dojrzałość operacyjną wraz ze wzrostem zapotrzebowania klientów
- Współpracować z zespołami szkolenia AI, wydajności GPU, orkiestracji i infrastruktury, aby przenosić modele z etapu rozwoju do produkcji
- Wdrażać monitorowanie, alerty i praktyki operacyjne wspierające niezawodne działanie usług inferencji
- Diagnozować i rozwiązywać problemy z wydajnością, niezawodnością i przepustowością obciążeń inferencji
- Kształtować decyzje architektoniczne i standardy inżynieryjne w miarę rozwoju platformy
Wymagania
- Doświadczenie w tworzeniu i obsłudze produkcyjnych systemów inferencji uczenia maszynowego lub serwowania modeli na dużą skalę
- Dobra znajomość kompromisów między opóźnieniami, przepustowością, wykorzystaniem pamięci i efektywnością kosztową podczas serwowania dużych modeli AI
- Doświadczenie w projektowaniu niezawodnych systemów rozproszonych lub infrastruktury produkcyjnej
- Znajomość obciążeń AI wykorzystujących GPU oraz wyzwań związanych ze skalowaniem systemów inferencji
- Solidne podstawy inżynierskie i umiejętność samodzielnego rozwiązywania złożonych problemów technicznych
- Gotowość do pracy w dynamicznym środowisku, w którym systemy i procesy są tworzone od podstaw
- Doświadczenie z nowoczesnymi frameworkami serwowania inferencji, takimi jak vLLM, SGLang, TensorRT-LLM, Triton Inference Server lub porównywalnymi technologiami
- Doświadczenie w optymalizacji obciążeń inferencji LLM lub wielkoskalowych platform serwowania AI
- Doświadczenie w obsłudze produktów AI opartych na API lub wysokowolumenowych usług produkcyjnych
- Doświadczenie z planowaniem GPU, systemami rozproszonymi, Kubernetes lub platformami infrastruktury chmurowej
- Znajomość kwantyzacji, batchowania, buforowania lub dostrajania wydajności
- Doświadczenie w hiperskalerze, laboratorium AI, u dostawcy chmury GPU lub w organizacji zajmującej się wielkoskalową infrastrukturą ML
- Wymagane jest zezwolenie na pracę w USA
- Sponsoring wizowy nie jest obecnie dostępny
- Gotowość do pracy hybrydowej w centrum Bellevue w stanie Waszyngton, co najmniej trzy dni w tygodniu w biurze po uruchomieniu stałej siedziby
Benefity
- Konkurencyjne wynagrodzenie podstawowe na rynku Bellevue
- Podwyżki uzależnione od wyników
- Premia roczna
- Długoterminowe zachęty
- Ubezpieczenie medyczne
- Ubezpieczenie dentystyczne
- Ubezpieczenie okulistyczne
- Plan 401(k)
- Dopłata firmy do planu 401(k)
- Płatne święta
- Udział w startupie i istotny wpływ techniczny
- Współpraca z doświadczonym zespołem infrastruktury AI