Baseten
Baseten
A Baseten modellkövetkeztetési infrastruktúrát biztosít a gépi tanulási és mesterségesintelligencia-alkalmazásokat üzemeltető vállalatok számára. Platformját gyors és jól skálázható kiszolgálásra tervezték: nagy áteresztőképességű következtetést, gyors bevezetést, automatikus skálázást, biztonságos vállalati modellkiszolgálást, valamint a nyílt forráskódú modellek csomagolásának támogatását kínálja. A Baseten segít a mérnöki és gépi tanulási csapatoknak kezelni a modellinfrastruktúra üzemeltetésével járó feladatokat, így azok a szakterület-specifikus modellek fejlesztésére összpontosíthatnak. A vállalat a mesterséges intelligencia, a SaaS és a vállalati technológiák területén működik, és 11–50 fős csapattal rendelkezik.

Szoftvermérnök, LLM-inferencia platform – Baseten, hibrid

Építsd a Baseten elosztott LLM-inferencia platformját mesterségesintelligencia-vállalatok számára. Kubernetes-orkesztráción, modell-API-kon, útválasztáson, automatikus skálázáson és éles környezeti megfigyelhetőségen dolgozhatsz.

Leírás

  • Fejlessz infrastruktúrát és orkestrációt nagyléptékű, elosztott LLM-inferenciához, útválasztással, automatikus skálázással, ütemezéssel és futtatókörnyezet-kezeléssel.
  • Fejlessz és üzemeltess strukturált kimeneteket, eszköz- és függvényhívást, valamint multimodális kiszolgálást támogató modell-API-kat.
  • Valósítsd meg az API-verziózást, a kérésellenőrzést, a használat mérését, a kvótákat és a hitelesítést.
  • Hozz létre mérőszámokhoz, nyomkövetésekhez és naplókhoz szükséges műszerezést, valamint ismételhető teljesítményteszteket a sebesség, megbízhatóság és minőség mérésére.
  • Alakíts ki erős gyakorlatokat a teszteléshez, a kiadások automatizálásához és a kiváló üzemeltetéshez.
  • Diagnosztizáld és erősítsd meg az éles rendszereket a Kubernetes, az elosztott futtatókörnyezetek, a hálózatkezelés és a GPU-terhelések területén.
  • Működj együtt az inferenciateljesítménnyel foglalkozó mérnökökkel és partnercsapatokkal ügyféloldali optimalizálások szállításában.
  • Vezess projekteket az architektúrától és a telepítéstől a megfigyelésig és az ügyfél-visszajelzések alapján végzett iterációig.
  • Tarts egyensúlyt a rendszerteljesítmény, a megbízhatóság, az üzemeltetés egyszerűsége és a fejlesztői élmény között.

Követelmények

  • Informatikai, mérnöki vagy kapcsolódó területen szerzett alap-, mester- vagy doktori fokozat, illetve ezzel egyenértékű gyakorlati tapasztalat.
  • Legalább három év tapasztalat elosztott rendszerek, háttér-infrastruktúra vagy nagyléptékű API-k fejlesztésében és üzemeltetésében, ahol kritikus a megbízhatóság, a késleltetés és a skálázhatóság.
  • Bizonyított felelősségvállalás alacsony késleltetésű, megbízható háttérszolgáltatásokért, amelyek sebességkorlátozást, hitelesítést, kvótákat, használatmérést és migrációkat kezelnek.
  • Erős infrastruktúrával kapcsolatos ítélőképesség, beleértve a profilozásban, a nyomkövetésben, a kapacitástervezésben és az SLO-kezelésben szerzett tapasztalatot.
  • Képesség a teljesítmény- és megbízhatósági problémák diagnosztizálására az alkalmazási, futtatókörnyezeti és infrastrukturális rétegekben.
  • Erős fókusz a fejlesztői élményen.
  • Nyitottság új programozási nyelvek, keretrendszerek és rendszerek megtanulására, valamint érdeklődés az inference engineering iránt.
  • Kiváló írásbeli kommunikációs és együttműködési készség, beleértve az egyértelmű tervezési dokumentációt és a hatékony, több csapatot érintő munkát.
  • A vLLM, az SGLang, a TensorRT-LLM, a TGI vagy a Dynamo rendszeréhez hasonló LLM-inferencia-motorokkal vagy -keretrendszerekkel szerzett tapasztalat, illetve az ezekhez való hozzájárulás előnyt jelent.
  • Mélyreható Kubernetes-tapasztalat, beleértve az operátorokat és az egyéni erőforrásokat; a szolgáltatáshálók vagy API-átjárók ismerete előnyt jelent.
  • Az elosztott ütemezésben, az automatikus skálázásban vagy a szolgáltatás-orkesztrációban szerzett tapasztalat előnyt jelent.
  • A GPU-terhelések éles környezetben való futtatásának tapasztalata előnyt jelent.
  • Fejlesztői infrastruktúrában vagy API-kban szerzett háttér, illetve nyílt forráskódú infrastruktúrához vagy gépi tanulási rendszerekhez való hozzájárulás előnyt jelent.
  • A megfigyelhetőségi eszközök, CI/CD-rendszerek vagy kiadásautomatizálás ismerete előnyt jelent.

Juttatások

  • Versenyképes juttatás és jelentős tulajdonrész.
  • Az Egyesült Államokban dolgozó munkatársak és eltartottjaik számára az egészség-, fogászati és látásbiztosítás teljes fedezete.
  • Rugalmas fizetett szabadság, beleértve a vállalati szintű téli szünetet.
  • Fizetett szülői szabadság.
  • Termékenységi és családalapítási támogatás Carrot-juttatáson keresztül.
  • Az Egyesült Államokban dolgozó munkatársak számára a vállalat által biztosított 401(k)-program.
  • Lehetőség számos gépi tanulással foglalkozó startup megismerésére, ami jelentős tanulási és szakmai kapcsolatépítési lehetőségeket teremt.

Kapcsolódó állások

LAKE SUPERIOR CONSULTING

Katódos védelmi terepi technikus

LAKE SUPERIOR CONSULTING

Katódos védelmi rendszereket telepít, tesztel, hibaelhárít és javít a Lake Superior Consulting számára. Ez a pályakezdő terepi munkakör jelentős utazással jár az Egyesült Államokban, szabadtéri munkavégzést igényel, és az alkalmazandó biztonsági, valamint szabályozási előírásokat követi.

Megnyitás
decircle

Vállalati MI-területi mérnök

decircle
1 – 10 Alkalmazottak
LogisztikaMarketingTanácsadás

A Fireworks AI nyílt modelű generatív MI-platformját vállalati ügyfeleknél vezeti be. Éles integrációkat épít, modellstratégiában ad tanácsot, és a feltárástól a bevezetésig támogatja a műszaki értékesítést.

Megnyitás
Invenergy

Terepi szerviztechnikus, 100% utazással

Invenergy

Végezzen főalkatrész-cseréket és javításokat az Invenergy megújulóenergia- és energetikai infrastruktúra-flottájában. Dolgozzon négyhetes utazási turnusokban, hárítsa el a berendezések hibáit, képezze a helyszíni csapatokat, és tartsa be a biztonsági előírásokat.

Megnyitás
Applied Materials

Alkalmazástechnikai mérnök, friss diplomás

Applied Materials

Az Applied Materials csapatában mesterséges intelligencia, gépi tanulás és adattudomány segítségével támogathatja a félvezetőipari berendezések alkalmazását és az ügyfélproblémák diagnosztizálását. Receptúrákat és technológiákat fejleszthet és minősíthet, értékeléseket és bemutatókat végezhet, valamint együttműködhet az ügyfélkapcsolati és termékfejlesztő csapatokkal.

Megnyitás
L3Harris Technologies

Vezető helyszíni mérnök, VAMPIRE cUAS — Nashville, TN

L3Harris Technologies

Támogassa az L3Harris pilóta nélküli légi járművek elleni védelmi rendszereinek telepítését, tesztelését és hibaelhárítását. Tanítsa meg a felhasználókat az integrált hálózati rendszerek kezelésére és karbantartására.

Megnyitás
Invenergy

Invenergy terepi szerviztechnikus, 100% utazással

Invenergy

Javítsa és cserélje ki az Invenergy megújulóenergia-flottájának főegységeit, és oktassa a helyszíni csapatokat a karbantartásról és a munkavédelemről. A munka mechanikai, elektromos és hidraulikus rendszerek hibakeresését, valamint négyhetes távolléti és egyhetes otthoni váltásos beosztást jelent.

Megnyitás
Medtronic

Távmunka végző terepi szervizmérnök, Hugo sebészeti robotika

Medtronic

Telepíti és szervizeli a Medtronic Hugo robotasszisztált sebészeti platformját, hibaelhárítással, javításokkal és képzéssel támogatva az egészségügyi ügyfeleket. A munkakör egy kijelölt amerikai területre terjed ki, és akár 75%-os utazással jár.

Megnyitás
ENGEL

Helyszíni szerviztechnikus, fröccsöntés (Maryland)

ENGEL

ENGEL fröccsöntő gépek és robotok telepítése, hibakeresése és javítása az ügyfelek telephelyén. Ügyfelek oktatása, valamint a berendezések hibáinak megoldásához a szervizcsapatokkal való egyeztetés.

Megnyitás