Baseten
Baseten
A Baseten modellkövetkeztetési infrastruktúrát biztosít a gépi tanulási és mesterségesintelligencia-alkalmazásokat üzemeltető vállalatok számára. Platformját gyors és jól skálázható kiszolgálásra tervezték: nagy áteresztőképességű következtetést, gyors bevezetést, automatikus skálázást, biztonságos vállalati modellkiszolgálást, valamint a nyílt forráskódú modellek csomagolásának támogatását kínálja. A Baseten segít a mérnöki és gépi tanulási csapatoknak kezelni a modellinfrastruktúra üzemeltetésével járó feladatokat, így azok a szakterület-specifikus modellek fejlesztésére összpontosíthatnak. A vállalat a mesterséges intelligencia, a SaaS és a vállalati technológiák területén működik, és 11–50 fős csapattal rendelkezik.

GPU-inferencia teljesítményért felelős mérnökvezető a Basetennél

Vezesse a GPU-inferencia teljesítményével foglalkozó mérnöki munkát az AI-infrastruktúrával foglalkozó Basetennél. Irányítsa a futásidejű optimalizálást, a modellhatékonyságot és egy specializált műszaki csapat fejlődését.

Leírás

  • Irányítsa, mentorálja és fejlessze az inferenciateljesítménnyel foglalkozó mérnököket rendszeres négyszemközti megbeszélésekkel, visszajelzésekkel, karriertervezéssel és teljesítményértékelésekkel
  • Toborozzon GPU- és inferenciamérnököket, miközben együttműködő csapatkultúrát alakít ki
  • Legyen felelős a futásidejű teljesítmény ütemtervéért és annak megvalósításáért
  • Vizsgálja felül a műszaki terveket, irányítsa a profilozási és optimalizálási munkát, és segítse a mérnököket az idő- és memóriahasználat felmérésében
  • Vigye éles környezetbe a kvantálást, a spekulatív dekódolást, a KV-cache újrafelhasználását, a darabolt előtöltést és az egyedi ütemezést
  • A teljesítménynövekedést a GPU-óránkénti tokenszámban, a kihasználtságban, a késleltetésben és a költségekben mérhető javulássá alakítsa
  • Vigyen új modellarchitektúrákat a feltörekvő hardverekre, és hangolja a teljesítményüket
  • Működjön együtt az infrastruktúrával, az inferenciaplatformmal, a kernelekkel, a modell-API-kkal és az ügyfélkapcsolati csapatokkal a feladatok rangsorolásában, a bevezetés koordinálásában és a fejlesztések megvalósításában
  • Állítson fel mérnöki szabványokat a minőség, a teljesítménymérés, az operatív kiválóság és az incidenskezelés terén
  • Fejlessze az ágensalapú inferenciaoptimalizálást, az ágensalapú kerneleket, a spekulatív dekódoláson alapuló modelltréninget és a Baseten Inferencia Stackjét

Követelmények

  • Informatikai, mérnöki, matematikai vagy kapcsolódó területen szerzett alap-, mester- vagy doktori fokozat
  • Mérnöki toborzást, mentorálást, visszajelzést és teljesítményértékelést magában foglaló vezetői tapasztalat
  • GPU-optimalizálási csapatok vezetésében vagy szoros támogatásában szerzett tapasztalat tréning, inferencia vagy ajánlórendszerek területén
  • Mély műszaki ismeretek a GPU-munkaterhelésekről, a GPU-architektúráról és a teljesítménybeli kompromisszumokról
  • Jártasság olyan gépi tanulási könyvtárakban, mint a PyTorch, a TensorRT vagy a TensorRT-LLM
  • Bizonyított képesség ütemtervek kialakítására és összetett műszaki projektek csapattal történő megvalósítására
  • Erős írásbeli és szóbeli kommunikációs készség a csapatok közötti érdekegyeztetéshez
  • Jártasság olyan inferenciamotorokban, mint a vLLM, az SGLang vagy a TensorRT-LLM
  • LLM-optimalizálási módszerek, például a kvantálás, a spekulatív dekódolás és a folyamatos kötegelés alkalmazásának tapasztalata
  • GPU-kernelek fejlesztésében vagy használatában szerzett tapasztalat CUDA, Triton vagy CUTLASS segítségével
  • Gyorsan növekvő startupban mérnöki csapat skálázásában szerzett tapasztalat
  • Vezetői szerepkörbe lépés előtt teljesítmény- vagy rendszermérnökként szerzett gyakorlati tapasztalat

Juttatások

  • Versenyképes juttatási csomag jelentős részvényopcióval
  • Az Egyesült Államokban dolgozók számára teljes körű egészség-, fogászati és látásbiztosítás a munkavállalók és eltartottaik részére
  • Rugalmas fizetett szabadság, beleértve a vállalati téli szünetet
  • Fizetett szülői szabadság
  • Termékenységi és családalapítási támogatás a Carroton keresztül
  • Az Egyesült Államokban dolgozók számára a vállalat által biztosított 401(k)-terv
  • Lehetőség több gépi tanulással foglalkozó startup-pal való együttműködésre és iparági kapcsolatok kiépítésére

Kapcsolódó állások

accessiBe

Követeléskezelési munkatárs – Canon Financial Services (hibrid, New Jersey)

accessiBe

Kezelje a lejárt számlákat és az ügyfélpanaszokat a Canon Financial Servicesnél. Végezzen számlakorrekciókat, egyeztetéseket, visszatérítéseket és hátralékrendezést.

Megnyitás
Device Insight

Szenior adatmérnök – Databricks, München, hibrid

Device Insight
51 – 200 Alkalmazottak
EgészségügyLogisztikaTanácsadás

Építsen szabályozott Databricks adatmegoldásokat a Device Insight számára, amely ipari IoT- és okosgyári szoftvereket fejleszt. Fejlesszen megbízható adatfolyamatokat, telepítési automatizálást és önkiszolgáló analitikát.

Megnyitás
Capital One

Vezető adatmérnök, Python és AWS

Capital One

Építs biztonságos, skálázható adatplatformokat és adatfolyamatokat Pythonnal és AWS-szel a Capital One-nál. Tervezd meg a több millió ügyfelet kiszolgáló felhőmegoldásokat és adatrendszereket.

Megnyitás
AutoNation

Vezető adatplatform-adminisztrátor az AutoNationnél (távmunka az Egyesült Államokból)

AutoNation

Az AutoNation adatbázis-platformjainak megbízhatóságát, biztonságát, automatizálását és korszerűsítését irányítja. Támogatja a felhőalapú adatokkal, az analitikával, a replikációval és a katasztrófa-helyreállítással kapcsolatos stratégiát az autóipari kiskereskedőnél.

Megnyitás