Designworks Talent LLC är ett rekryterings- och talangrådgivningsföretag som hjälper snabbväxande nystartade företag och globala koncerner. Företaget grundades 2009 och kombinerar erfarna rekryterare med AI-baserade verktyg för att möjliggöra snabbare och mer träffsäkra rekryteringar. Arbetet omfattar heltäckande rekryteringsuppdrag, projektbaserad rekrytering och flexibla lösningar på begäran, samt skalbara rekryteringsstrategier, rekryteringsverksamhet, strategiskt ledarskap inom talangförvärv, datadriven kandidatsökning och kandidatupplevelse. Teamets arbetssätt är utformat för att ge organisationer anpassningsbart stöd i takt med att deras rekryteringsbehov utvecklas.
Staffingenjör inom inferens – hybrid i Bellevue
Led utvecklingen av produktionssystem för modellserving för ett AI-infrastrukturföretag. Förbättra GPU-utnyttjande, fördröjning, genomströmning, skalbarhet och tillförlitlighet för AI-arbetsbelastningar i stor skala.
Beskrivning
- Bygg och drifta produktionssystem för modellserving och inferens för AI-arbetsbelastningar med hög genomströmning och låg fördröjning
- Optimera inferensinfrastruktur för tokengenomströmning, fördröjning, skalbarhet och kostnadseffektivitet för olika modeller och arbetsbelastningar
- Utforma system som använder GPU:er effektivt och samtidigt levererar jämn prestanda och tillförlitlighet
- Utveckla inferensplattformens skalbarhet och operativa mognad i takt med att kundernas efterfrågan ökar
- Samarbeta med team inom AI-träning, GPU-prestanda, orkestrering och infrastruktur för att flytta modeller från utveckling till produktion
- Etablera övervakning, larm och operativa arbetssätt som stöder tillförlitliga inferenstjänster
- Diagnostisera och lösa problem med prestanda, tillförlitlighet och kapacitet i olika inferensarbetsbelastningar
- Forma arkitekturbeslut och tekniska standarder i takt med att plattformen utvecklas
Krav
- Erfarenhet av att bygga och drifta produktionssystem för maskininlärningsinferens eller modellserving i stor skala
- Djup förståelse för avvägningar mellan fördröjning, genomströmning, minnesutnyttjande och kostnadseffektivitet vid serving av stora AI-modeller
- Erfarenhet av att utforma tillförlitliga distribuerade system eller produktionsinfrastruktur
- Förståelse för GPU-baserade AI-arbetsbelastningar och utmaningarna med att skala inferenssystem
- Starka ingenjörsgrunder och förmåga att självständigt ta ansvar för komplexa tekniska problem
- Bekväm med att arbeta i en snabbföränderlig miljö där system och processer byggs från grunden
- Erfarenhet av moderna ramverk för inferensserving, såsom vLLM, SGLang, TensorRT-LLM, Triton Inference Server eller jämförbar teknik
- Erfarenhet av att optimera LLM-inferensarbetsbelastningar eller plattformar för AI-serving i stor skala
- Bakgrund av att drifta API-baserade AI-produkter eller produktionstjänster med hög volym
- Erfarenhet av GPU-schemaläggning, distribuerade system, Kubernetes eller molninfrastrukturplattformar
- Kännedom om kvantisering, batching, cachning eller prestandaoptimering
- Erfarenhet från en hyperscaler, ett AI-laboratorium, en GPU-molnleverantör eller en organisation för ML-infrastruktur i stor skala
- Amerikanskt arbetstillstånd krävs
- Visumsponsring är för närvarande inte tillgänglig
- Villighet att arbeta enligt en hybridmodell i centrala Bellevue i delstaten Washington, med minst tre dagar i veckan på kontoret när det permanenta kontoret har etablerats
Förmåner
- Konkurrenskraftig grundlön för Bellevue-marknaden
- Meritbaserade löneökningar
- Årlig bonus
- Långsiktiga incitament
- Sjukförsäkring
- Tandvårdsförsäkring
- Synvårdsförsäkring
- 401(k)-plan
- Företagsmatchning till 401(k)
- Betalda helgdagar
- Ägarandel i startup och meningsfull teknisk påverkan
- Samarbete med ett erfaret AI-infrastrukturteam