NVIDIA
NVIDIA
NVIDIA utvecklar tekniker för accelererad databehandling och artificiell intelligens som används inom spel, datacenter, molnbaserad databehandling, sjukvård, tillverkning, fordonsindustrin och robotik. Företagets arbete omfattar grafikprocessorer, AI-plattformar, simulering och branschspecifika lösningar, däribland NVIDIA Omniverse för samarbetsinriktade 3D-arbetsflöden, NVIDIA DRIVE för utveckling av autonoma fordon och NVIDIA Clara för tillämpningar inom sjukvården. Företaget samlar stora tekniska team som arbetar med den infrastruktur och programvara som stöder avancerad databehandling, simulering och AI-baserad analys.

Senior chef för utvecklarrelationer, NVIDIA Dynamo AI-inferens

Utveckla utvecklarekosystemet för NVIDIA Dynamo, ett ramverk med öppen källkod för distribuerad AI-inferens. Skapa tekniskt material, stöd utvecklare och påverka inferensproduktens prioriteringar genom återkoppling från communityn.

Beskrivning

  • Utveckla utvecklarekosystemet för NVIDIA Dynamo, NVIDIAs ramverk med öppen källkod för distribuerad AI-inferens.
  • Samarbeta med vLLM, SGLang, Mooncake, llm-d och andra inferensprojekt genom gemensamma demonstrationer, integrationsguider, bidrag till uppströmsprojekt och communityprogram.
  • Skapa körbara demonstrationer, exempelkod, teknisk dokumentation och videor som förklarar Dynamos modulära ekosystem och prestandafördelar i datacenter.
  • Förmedla utvecklarnas återkoppling till NVIDIA genom att omvandla den till tekniska krav och produktkrav, påverka prioriteringar och informera utvecklarna om framsteg.
  • Företräda NVIDIA externt genom tekniska föredrag, livedemonstrationer, workshops och öppna frågestunder.
  • Hjälpa utvecklare att felsöka faktiska driftsättningar och bidra till projekt.
  • Mäta återkommande deltagande, tillväxt bland bidragsgivare och lösta problem.
  • Skapa tekniskt material, återkommande träffar och praktiska workshops tillsammans med inferenscommunityn.
  • Omvandla utvecklarfeedback, val av serveringsstack och nya inferensarbetslaster till rekommendationer för produktplaner, ekosysteminvesteringar och partnerprioriteringar.

Krav

  • Examen inom datavetenskap, teknik eller ett närliggande område, eller motsvarande erfarenhet.
  • Minst 8 års erfarenhet från teknikbranschen, varav minst 4 år inom AI/ML-infrastruktur, modellservering eller distribuerade system.
  • Erfarenhet av att leda utvecklar- eller partnerprogram tillsammans med teknik-, produkt-, försäljnings-, marknadsförings- och juridikteam.
  • Praktisk erfarenhet av att driftsätta och hantera modellserveringssystem, inklusive konfigurering av driftsättningar, övervakning av fördröjning och genomströmning, kapacitetsökning samt hantering av tillförlitlighets- och prestandaproblem.
  • Kännedom om inferensmotorer som vLLM, SGLang eller TensorRT-LLM.
  • Kännedom om distribuerade serveringsstackar som Dynamo eller llm-d.
  • Erfarenhet av att driftsätta och driva inferensarbetslaster på Kubernetes.
  • Erfarenhet av att samarbeta med förvaltare av projekt med öppen källkod via ärenden, pull requests och design diskussioner.
  • Erfarenhet av att omvandla utvecklarfeedback till tekniska prioriteringar.
  • En portfolio med tekniska guider, fungerande demonstrationer, föredrag eller workshops som du själv har genomfört för att hjälpa utvecklare att lösa praktiska problem.
  • Förmåga att förklara inferensarkitektur och avvägningar kring prestanda för målgrupper från ingenjörer till företagsledare.
  • Dokumenterad förmåga att vinna utvecklares förtroende externt och påverka beslut internt.
  • Erfarenhet av att arbeta direkt med vLLM-, SGLang- eller Mooncake-communityn.
  • Förmåga att hitta mönster i utvecklarfeedback, val av serveringsstack och nya inferensarbetslaster och omvandla dem till rekommendationer.

Förmåner

  • Aktierelaterad ersättning.
  • Personal förmåner.
  • Information om NVIDIAs förmåner för anställda och deras familjer finns på www.nvidiabenefits.com/.