LogoFresh Jobs Ahead
STN Incorporated
STN Incorporated
11 – 50 Pracownicy
CyberbezpieczeństwoPrzedsiębiorstwoSprzęt komputerowy
STN Incorporated świadczy zarządzane usługi IT i zapewnia infrastrukturę chmurową przedsiębiorstwom oraz zespołom tworzącym oprogramowanie o kluczowym znaczeniu dla działalności, systemy sztucznej inteligencji i robotykę. Oferta obejmuje prywatne chmury oparte na procesorach CPU, infrastrukturę GPU One dla AI, bezpieczne sieci i pamięć masową, a także bieżącą obsługę chmury z całodobowym wsparciem specjalistów i umowami o wysokiej dostępności. Firma zajmuje się również cyberbezpieczeństwem i reagowaniem na incydenty, zarządzaniem zgodnością i ryzykiem, tworzeniem kopii zapasowych i odzyskiwaniem danych, a także zakupem technologii i zarządzaniem ich cyklem życia. STN obsługuje firmy SaaS, twórców AI i modeli, przedsiębiorstwa z branży robotyki oraz organizacje podlegające regulacjom, w tym placówki ochrony zdrowia. Infrastruktura firmy została zaprojektowana z myślą o gotowości do audytu i obsłudze ram takich jak SOC 2 Type II i HIPAA.
LinkedIn
Oferty pracy firmy

Lider optymalizacji obciążeń inferencyjnych

Poprowadź dostrajanie wydajności GPU dla klienckich obciążeń AI na autonomicznej platformie centrów danych STN. Przekuwaj wiedzę optymalizacyjną w poprawki możliwe do wdrożenia przez agentów i nadzoruj wewnętrzne serwowanie modeli.

USStany ZjednoczoneZdalniePełny etatSeniorWymagany Język: angielskiSztuczna inteligencja

Opis

  • Analizuj klienckie obciążenia treningowe i inferencyjne, aby znaleźć wąskie gardła w ładowaniu danych, komunikacji zbiorowej, przepustowości pamięci, kernelach, batchowaniu i równoległości.
  • Ustalaj bazowe poziomy wydajności dla każdej generacji sprzętu, zaczynając od obecnej generacji systemów NVIDIA.
  • Przekuwaj wiedzę optymalizacyjną w poprawki, które agenci mogą stosować w klastrach klientów.
  • Dostrajaj obciążenia u klientów z zakontraktowaną mocą obliczeniową, bezpośrednio lub za pośrednictwem ich zespołów operacyjnych.
  • Dodatkowo zarządzaj wewnętrznym serwowaniem modeli, w tym routingiem uwzględniającym koszty i opóźnienia oraz migracjami między wersjami modeli.
  • Doradzaj w zakresie przydziału GPU między wewnętrzne zadania inferencyjne a obciążenia klientów.

Wymagania

  • Miej dogłębną wiedzę z zakresu inżynierii wydajności GPU, w tym profilowania, zachowania pamięci i przepustowości oraz działania na poziomie kerneli.
  • Miej praktyczną znajomość stosów serwowania modeli, takich jak vLLM, SGLang lub TensorRT-LLM, w tym batchowania, zarządzania pamięcią podręczną KV i kompromisów związanych z kwantyzacją.
  • Miej doświadczenie w rozproszonym treningu i inferencji na dużą skalę, obejmujące równoległość tensorową, potokową i danych.
  • Miej doświadczenie w dostrajaniu komunikacji zbiorowej, takiej jak NCCL.
  • Sprawnie posługuj się narzędziami do profilowania, takimi jak Nsight, DCGM i profilery na poziomie frameworków.
  • Potrafisz wyjaśniać klientom wyniki analizy wydajności i kodować rozwiązania dla agenta.
  • Dodatkowym atutem będzie: tworzenie kerneli CUDA, wdrażanie dużych modeli z otwartymi wagami, projektowanie benchmarków oraz wcześniejsze doświadczenie techniczne w pracy z klientami.

Powiązane oferty pracy

CDW

Inżynier konsultant ds. infrastruktury AI, mocy obliczeniowej i pamięci masowej

CDW
Sponsor wizy H1BDoradztwoEdukacjaOpieka zdrowotna
USStany Zjednoczone
77 725 $ – 108 265 $ / rok
ZdalniePełny etatPoziom średniSeniorWymagany Język: angielskiSztuczna inteligencja
KubernetesLinuxNFS

Projektuj i weryfikuj rozwiązania oparte na obliczeniach GPU i wysokowydajnej pamięci masowej dla korporacyjnych zadań AI i uczenia maszynowego. Pomagaj klientom CDW wdrażać infrastrukturę do trenowania, dostrajania i inferencji modeli AI.

Otwórz
Salesforce

Starszy lider innowacji AI w naukach przyrodniczych

Salesforce
Sponsor wizy H1BDoradztwoMarketingSaaS
USStany ZjednoczoneCAKaliforniaILIllinoisNJNew JerseyVAWirginia
191 100 $ – 320 600 $ / rok
ZdalniePełny etatSeniorWymagany Język: angielskiSztuczna inteligencja
Chmura

Kieruj strategią wdrażania AI Salesforce w naukach przyrodniczych, rozwijając wielokrotnego użytku rozwiązania i wspierając transformację klientów. Prowadź globalny zespół złożony ze specjalistów ds. produktów, inżynierii i usług profesjonalnych.

Otwórz