Designworks Talent LLC er et rekrutterings- og talentrådgivningsfirma som bistår raskt voksende oppstartsbedrifter og globale selskaper. Selskapet ble grunnlagt i 2009 og kombinerer erfarne rekrutterere med AI-baserte verktøy for å støtte raskere og mer målrettede ansettelser. Arbeidet omfatter komplette rekrutteringsoppdrag, prosjektbasert rekruttering og fleksible løsninger ved behov, i tillegg til skalerbare ansettelsesstrategier, rekrutteringsdrift, strategisk ledelse innen talentanskaffelse, datadrevet kandidatsøk og kandid atopplevelse. Teamets tilnærming er utformet for å gi organisasjoner tilpasningsdyktig støtte etter hvert som rekrutteringsbehovene deres utvikler seg.
Staffingeniør innen inferens – hybrid i Bellevue
Led utviklingen av produksjonssystemer for modell-serving i et selskap innen AI-infrastruktur. Forbedre GPU-utnyttelse, latenstid, gjennomstrømning, skalerbarhet og pålitelighet på tvers av AI-arbeidsbelastninger i stor skala.
Beskrivelse
- Bygg og drift produksjonssystemer for modell-serving og inferens for AI-arbeidsbelastninger med høy gjennomstrømning og lav latenstid
- Optimaliser inferensinfrastruktur for tokengjennomstrømning, latenstid, skalerbarhet og kostnadseffektivitet på tvers av ulike modeller og arbeidsbelastninger
- Design systemer som utnytter GPU-er effektivt og samtidig leverer jevn ytelse og pålitelighet
- Videreutvikle inferensplattformens skalerbarhet og operative modenhet i takt med økende kundeetterspørsel
- Samarbeid med team innen AI-trening, GPU-ytelse, orkestrering og infrastruktur for å flytte modeller fra utvikling til produksjon
- Etabler overvåking, varsling og operative rutiner som støtter pålitelige inferenstjenester
- Diagnostiser og løs problemer med ytelse, pålitelighet og kapasitet på tvers av inferensarbeidsbelastninger
- Form arkitekturbeslutninger og tekniske standarder etter hvert som plattformen utvikler seg
Krav
- Erfaring med å bygge og drifte produksjonssystemer for maskinlæringsinferens eller modell-serving i stor skala
- God forståelse av avveiningene mellom latenstid, gjennomstrømning, minneutnyttelse og kostnadseffektivitet ved serving av store AI-modeller
- Erfaring med å designe pålitelige distribuerte systemer eller produksjonsinfrastruktur
- Forståelse av GPU-baserte AI-arbeidsbelastninger og utfordringene ved å skalere inferenssystemer
- Sterke tekniske grunnferdigheter og evne til å ta selvstendig eierskap til komplekse tekniske problemer
- Trives i et miljø med høyt tempo, der systemer og prosesser bygges fra grunnen av
- Erfaring med moderne rammeverk for inferens-serving, som vLLM, SGLang, TensorRT-LLM, Triton Inference Server eller tilsvarende teknologi
- Erfaring med optimalisering av LLM-inferensarbeidsbelastninger eller AI-servingplattformer i stor skala
- Bakgrunn med drift av API-baserte AI-produkter eller produksjonstjenester med høyt volum
- Erfaring med GPU-planlegging, distribuerte systemer, Kubernetes eller skyinfrastrukturplattformer
- Kjennskap til kvantisering, batching, caching eller ytelsesoptimalisering
- Erfaring fra en hyperscaler, et AI-laboratorium, en GPU-skyleverandør eller en organisasjon med ML-infrastruktur i stor skala
- Amerikansk arbeidstillatelse er påkrevd
- Visumsponsing er for tiden ikke tilgjengelig
- Villighet til å arbeide etter en hybridordning i sentrum av Bellevue i Washington, med minst tre dager i uken på kontoret når det permanente kontoret er etablert
Fordeler
- Konkurransedyktig grunnlønn for Bellevue-markedet
- Meritbaserte lønnsøkninger
- Årlig bonus
- Langsiktige insentiver
- Helseforsikring
- Tannforsikring
- Synsforsikring
- 401(k)-ordning
- Arbeidsgivers matching av 401(k)
- Betalte helligdager
- Eierskap i en startup og meningsfull teknisk innvirkning
- Samarbeid med et erfarent AI-infrastrukturteam