Designworks Talent LLC ist ein Personalvermittlungs- und Talentberatungsunternehmen, das wachstumsstarke Start-ups und globale Unternehmen unterstützt. Seit der Gründung im Jahr 2009 verbindet das Unternehmen erfahrene Recruiter mit KI-gestützten Tools, um eine schnellere und gezieltere Personalgewinnung zu ermöglichen. Das Angebot umfasst die Suche nach Fach- und Führungskräften im Full-Service-Modell, projektbasierte Personalgewinnung und flexible Lösungen auf Abruf sowie skalierbare Personalstrategien, Recruiting-Operations, die Leitung der Talentgewinnung in Unternehmen, datenbasierte Kandidatensuche und die Gestaltung der Candidate Experience. Der Ansatz des Teams ist darauf ausgelegt, Organisationen bei sich wandelnden Personalbedarfen flexibel zu unterstützen.
Staff-Ingenieur für Inferenz – Bellevue, hybrid
Leite die Entwicklung produktiver Systeme für das Modell-Serving bei einem Unternehmen für KI-Infrastruktur. Verbessere GPU-Auslastung, Latenz, Durchsatz, Skalierbarkeit und Zuverlässigkeit für KI-Workloads in großem Maßstab.
Beschreibung
- Entwickle und betreibe produktive Systeme für Modell-Serving und Inferenz für KI-Workloads mit hohem Durchsatz und geringer Latenz
- Optimiere die Inferenzinfrastruktur hinsichtlich Token-Durchsatz, Latenz, Skalierbarkeit und Kosteneffizienz für unterschiedliche Modelle und Workloads
- Entwirf Systeme, die GPUs effizient nutzen und gleichzeitig eine konsistente Leistung und Zuverlässigkeit gewährleisten
- Erhöhe die Skalierbarkeit und betriebliche Reife der Inferenzplattform, wenn die Kundennachfrage steigt
- Arbeite mit Teams für KI-Training, GPU-Performance, Orchestrierung und Infrastruktur zusammen, um Modelle aus der Entwicklung in die Produktion zu überführen
- Etabliere Monitoring-, Alarmierungs- und Betriebspraktiken für zuverlässige Inferenzdienste
- Diagnostiziere und behebe Performance-, Zuverlässigkeits- und Kapazitätsprobleme in Inferenz-Workloads
- Gestalte Architekturentscheidungen und technische Standards während der Weiterentwicklung der Plattform
Anforderungen
- Erfahrung in der Entwicklung und im Betrieb produktiver Machine-Learning-Inferenz- oder Modell-Serving-Systeme im großen Maßstab
- Ausgeprägtes Verständnis der Zielkonflikte zwischen Latenz, Durchsatz, Speichernutzung und Kosteneffizienz beim Betrieb großer KI-Modelle
- Erfahrung im Entwurf zuverlässiger verteilter Systeme oder produktiver Infrastruktur
- Verständnis GPU-gestützter KI-Workloads und der Herausforderungen bei der Skalierung von Inferenzsystemen
- Fundierte Software-Engineering-Kenntnisse und die Fähigkeit, komplexe technische Probleme eigenständig zu verantworten
- Bereitschaft, in einem dynamischen Umfeld zu arbeiten, in dem Systeme und Prozesse von Grund auf aufgebaut werden
- Erfahrung mit modernen Frameworks für Inferenz-Serving wie vLLM, SGLang, TensorRT-LLM, Triton Inference Server oder vergleichbaren Technologien
- Erfahrung in der Optimierung von LLM-Inferenz-Workloads oder groß angelegten KI-Serving-Plattformen
- Erfahrung mit dem Betrieb API-basierter KI-Produkte oder produktiver Dienste mit hohem Volumen
- Erfahrung mit GPU-Scheduling, verteilten Systemen, Kubernetes oder Cloud-Infrastrukturplattformen
- Vertrautheit mit Quantisierung, Batching, Caching oder Performance-Tuning
- Erfahrung bei einem Hyperscaler, KI-Labor, GPU-Cloud-Anbieter oder einer Organisation für ML-Infrastruktur im großen Maßstab
- Eine US-Arbeitserlaubnis ist erforderlich
- Derzeit wird kein Visumssponsoring angeboten
- Bereitschaft, hybrid im Zentrum von Bellevue, Washington, zu arbeiten, sobald das dauerhafte Büro eingerichtet ist, mit mindestens drei Bürotagen pro Woche
Zusatzleistungen
- Wettbewerbsfähige Grundvergütung für den Markt in Bellevue
- Leistungsabhängige Gehaltserhöhungen
- Jährlicher Bonus
- Langfristige Vergütungsanreize
- Krankenversicherung
- Zahnversicherung
- Sehversicherung
- 401(k)-Plan
- Arbeitgeberzuschuss zum 401(k)
- Bezahlte Feiertage
- Beteiligung an einem Start-up und maßgeblicher technischer Einfluss
- Zusammenarbeit mit einem erfahrenen Team für KI-Infrastruktur