LogoFresh Jobs Ahead
Baseten
Baseten
11 – 50 Darbuotojai
H1B vizos rėmėjasDirbtinis intelektasĮmonėSaaS
Baseten teikia modelių inferencijos infrastruktūrą įmonėms, diegiančioms mašininio mokymosi ir dirbtinio intelekto programas. Jos platforma sukurta sparčiam ir keičiamo masto modelių aptarnavimui, apimančiam didelio pralaidumo inferenciją, greitą diegimą, automatinį mastelio keitimą, saugų įmonių modelių aptarnavimą ir atvirojo kodo modelių pakavimo palaikymą. Baseten padeda inžinerijos ir mašininio mokymosi komandoms valdyti modelių infrastruktūros operacinius poreikius, kad jos galėtų sutelkti dėmesį į konkrečiai sričiai skirtų modelių kūrimą. Įmonė veikia dirbtinio intelekto, SaaS ir įmonių technologijų srityse, joje dirba 11–50 darbuotojų.
LinkedIn
Darbai įmonėje

Programinės įrangos inžinierius, LLM išvadų platforma – Baseten, hibridinis darbas

Kurkite Baseten paskirstytą LLM išvadų platformą dirbtinio intelekto įmonėms. Dirbsite su Kubernetes orkestravimu, modelių API, maršrutizavimu, automatiniu mastelio keitimu ir gamybine stebėsena.

USJungtinės ValstijosCAKalifornijaNYNiujorkasWAVašingtonas
180 000 $ – 360 000 $ / metai
HibridinisVisas etatasVidutinis lygisVyresnysis specialistasPrivaloma Kalba: anglųFull-stack inžinieriusPrograminės įrangos inžinierius
KubernetesPaskirstytosios sistemos

Aprašymas

  • Kurkite infrastruktūrą ir orkestravimą didelio masto paskirstytoms LLM išvadoms, apimdami maršrutizavimą, automatinį mastelio keitimą, planavimą ir vykdymo aplinkos valdymą.
  • Kurkite ir valdykite modelių API, palaikančias struktūrizuotus rezultatus, įrankių ir funkcijų iškvietimą bei daugiarūšį aptarnavimą.
  • Įgyvendinkite API versijavimą, užklausų tikrinimą, naudojimo matavimą, kvotas ir autentifikavimą.
  • Kurkite metrikų, sekų ir žurnalų instrumentavimą bei pakartojamus spartos, patikimumo ir kokybės etaloninius testus.
  • Nustatykite tvirtą testavimo, leidimų automatizavimo ir veiklos meistriškumo praktiką.
  • Diagnozuokite ir stiprinkite gamybines sistemas Kubernetes, paskirstytų vykdymo aplinkų, tinklų ir GPU darbo krūvių srityse.
  • Bendradarbiaukite su išvadų našumo inžinieriais ir partnerių komandomis, kad pateiktumėte klientams skirtus optimizavimus.
  • Vadovaukite projektams nuo architektūros ir diegimo iki stebėsenos bei iteracijų, grindžiamų klientų atsiliepimais.
  • Derinkite sistemos našumą, patikimumą, veiklos paprastumą ir kūrėjų patirtį.

Reikalavimai

  • Kompiuterių mokslų, inžinerijos ar susijusios srities bakalauro, magistro arba doktorantūros laipsnis arba lygiavertė praktinė patirtis.
  • Mažiausiai trejų metų patirtis kuriant ir valdant paskirstytas sistemas, galinę infrastruktūrą ar didelio masto API, kuriose patikimumas, delsa ir mastelis yra kritiškai svarbūs.
  • Įrodyta atsakomybė už mažos delsos ir patikimas galines paslaugas, apimančias spartos ribojimą, autentifikavimą, kvotas, naudojimo matavimą ir migracijas.
  • Tvirtas infrastruktūros sprendimų priėmimas, įskaitant profiliavimo, sekimo, pajėgumų planavimo ir SLO valdymo patirtį.
  • Gebėjimas diagnozuoti našumo ir patikimumo problemas programos, vykdymo aplinkos ir infrastruktūros lygmenyse.
  • Didelis dėmesys kūrėjų patirčiai.
  • Noras mokytis naujų kalbų, karkasų ir sistemų bei domėjimasis išvadų inžinerija.
  • Puikūs rašytinės komunikacijos ir bendradarbiavimo įgūdžiai, įskaitant aiškią projektavimo dokumentaciją ir veiksmingą tarpdisciplininį darbą.
  • Patirtis dirbant su LLM išvadų varikliais ar karkasais, tokiais kaip vLLM, SGLang, TensorRT-LLM, TGI ar Dynamo, arba indėlis į jų kūrimą būtų privalumas.
  • Gili Kubernetes patirtis, įskaitant operatorius ir pasirinktinius išteklius; paslaugų tinklų ar API šliuzų išmanymas būtų privalumas.
  • Paskirstyto planavimo, automatinio mastelio keitimo ar paslaugų orkestravimo patirtis būtų privalumas.
  • GPU darbo krūvių vykdymo gamyboje patirtis būtų privalumas.
  • Patirtis kūrėjams skirtoje infrastruktūroje ar API srityje arba indėlis į atvirojo kodo infrastruktūros ar mašininio mokymosi sistemas būtų privalumas.
  • Stebėsenos įrankių, CI/CD sistemų ar leidimų automatizavimo išmanymas būtų privalumas.

Privalumai

  • Konkurencingas atlygis ir reikšminga nuosavybės dalis.
  • JAV darbuotojams ir jų išlaikytiniams visiškai kompensuojamas sveikatos, odontologijos ir regos draudimas.
  • Lanksčios apmokamos atostogos, įskaitant bendrovės žiemos pertrauką.
  • Apmokamos vaiko priežiūros atostogos.
  • Vaisingumo ir šeimos kūrimo parama per „Carrot“ stipendiją.
  • JAV darbuotojams bendrovės organizuojamas 401(k) planas.
  • Galimybė susipažinti su įvairiomis mašininio mokymosi startuolių įmonėmis, suteikianti daug mokymosi ir profesinio tinklaveikos galimybių.

Susiję darbai

Maxibook OÜ

Scientific Language and AI Adaptation Contributor

Maxibook OÜ
Dirbtinis intelektasSaaSŠvietimas
NuotolinisSutartisVidutinis lygisVyresnysis specialistasPrivaloma Kalba: arabųPrivaloma Kalba: anglųPrivaloma Kalba: japonųPrivaloma Kalba: korėjiečiųDirbtinis intelektas

Help Maxibook, an AI education startup, adapt English scientific content for Korean, Japanese, or Arabic audiences. Assess AI-generated material for accurate concepts, natural language, and academic credibility.

Atidaryti
Peraton

Senior Hybrid Connectivity Engineer

Peraton
H1B vizos rėmėjasKonsultavimasLogistikaSveikatos priežiūra
USJungtinės ValstijosVAVirdžinija
112 000 $ – 179 000 $ / metai
Darbas vietojeVisas etatasVidutinis lygisVyresnysis specialistasPrivaloma Kalba: anglųInžinierius
AWSDebesijaDNSKibernetinis saugumasKubernetesTCP/IPTypeScriptUžkardos

Designs and troubleshoots connectivity across AWS classified cloud, Kubernetes, and on-premises networks. Supports Peraton’s national security and government technology missions.

Atidaryti