Baseten
Baseten
Baseten biedt bedrijven die machinelearning- en AI-toepassingen ontwikkelen infrastructuur voor modelinference. Het platform is ontworpen voor snelle, schaalbare serving en combineert inference met hoge verwerkingscapaciteit, snelle implementatie, autoscaling, veilige model serving voor ondernemingen en ondersteuning voor het verpakken van opensourcemodellen. Baseten helpt engineering- en machinelearningteams bij het beheren van de operationele vereisten van modelinfrastructuur, zodat zij zich kunnen richten op de ontwikkeling van domeinspecifieke modellen. Het bedrijf is actief op het gebied van kunstmatige intelligentie, SaaS en technologie voor ondernemingen en heeft 11–50 medewerkers.

Engineering Manager GPU-inferentieprestaties bij Baseten

Geef leiding aan engineering voor GPU-inferentieprestaties bij Baseten, een AI-infrastructuurbedrijf. Stuur runtime-optimalisatie en modelefficiëntie aan en begeleid de groei van een gespecialiseerd technisch team.

Beschrijving

  • Inference-performance-engineers aansturen, begeleiden en ontwikkelen via regelmatige één-op-één gesprekken, feedback, loopbaanplanning en prestatiebeoordelingen
  • GPU- en inference-engineers werven en tegelijkertijd een samenwerkende teamcultuur bevorderen
  • Verantwoordelijkheid nemen voor de roadmap en uitvoering van runtimeprestaties
  • Technische ontwerpen beoordelen, profiling- en optimalisatiewerk aansturen en engineers helpen bij het inschatten van tijd- en geheugengebruik
  • Quantization, speculative decoding, hergebruik van de KV-cache, chunked prefill en aangepaste scheduling productierijp maken
  • Prestatieverbeteringen vertalen naar meetbare verbeteringen in tokens per GPU-uur, benutting, latentie en kosten
  • Nieuwe modelarchitecturen naar opkomende hardware brengen en hun prestaties afstemmen
  • Samenwerken met de teams voor Infrastructure, Inference Platform, Kernels, Model APIs en klantgerichte teams om werk te prioriteren, lanceringen te coördineren en verbeteringen te realiseren
  • Engineeringstandaarden voor kwaliteit, benchmarking, operationele uitmuntendheid en incidentrespons vaststellen
  • Agentic inference-optimalisatie, agentic kernels, training van modellen voor speculative decoding en de Baseten Inference Stack verder ontwikkelen

Vereisten

  • Bachelor-, master- of doctoraatsdiploma in computerwetenschappen, techniek, wiskunde of een verwante studierichting
  • Managementervaring met engineeringwerving, mentoring, feedback en prestatiebeoordelingen
  • Ervaring met het leiden van of nauw samenwerken met GPU-optimalisatieteams op het gebied van training, inferentie of aanbevelingssystemen
  • Diepgaande technische kennis van GPU-workloads, architectuur en prestatieafwegingen
  • Kennis van machine-learningbibliotheken zoals PyTorch, TensorRT of TensorRT-LLM
  • Aantoonbaar vermogen om roadmaps op te stellen en complexe technische projecten met een team te realiseren
  • Sterke schriftelijke en mondelinge communicatievaardigheden om stakeholders in verschillende teams op één lijn te brengen
  • Kennis van inference-engines zoals vLLM, SGLang of TensorRT-LLM
  • Ervaring met LLM-optimalisatiemethoden zoals quantization, speculative decoding en continuous batching
  • Ervaring met het ontwikkelen van of werken met GPU-kernels met CUDA, Triton of CUTLASS
  • Ervaring met het opschalen van een engineeringteam tijdens snelle startupgroei
  • Eerdere praktische ervaring als performance- of systems engineer voordat je naar management overstapte

Voordelen

  • Concurrerend beloningspakket met een betekenisvol aandelenbelang
  • Voor medewerkers in de VS: volledige medische, tandheelkundige en visuele dekking voor medewerkers en hun gezinsleden
  • Flexibele betaalde vrije tijd, inclusief een bedrijfbrede winterpauze
  • Betaald ouderschapsverlof
  • Ondersteuning bij vruchtbaarheid en gezinsvorming via Carrot
  • Voor medewerkers in de VS: een door het bedrijf gefaciliteerd 401(k)-plan
  • Mogelijkheden om samen te werken met verschillende machine-learningstartups en contacten in de sector op te bouwen

Gerelateerde vacatures

MÜNZING

MÜNZING Salesmanager Mid-Atlantic, speciale chemicaliën

MÜNZING

Leid de gebiedsverkoop van speciale chemische additieven van MÜNZING in de Mid-Atlantic en bouw met technische projectverkoop klantrelaties op en sluit deals. Beheer een verkoopgebied van 3–5 miljoen dollar en ontwikkel op korte termijn 1–2 miljoen dollar aan zakelijk potentieel in coatings, lijmen, inkten en bouwmarkten.

Openen
Proofpoint

Accountmanager middelgrote keyaccounts cybersecurity – Proofpoint

Proofpoint

Verkoop de cybersecurityplatform van Proofpoint aan middelgrote bedrijven in Washington of Oregon. De functie omvat accountbeheer, partnerverkoop, acquisitie en complexe oplossingen met meerjarige contracten.

Openen