LogoFresh Jobs Ahead
Baseten
Baseten
11 – 50 Darbinieki
H1B vīzas sponsorsMākslīgais intelektsSaaSUzņēmums
Baseten nodrošina modeļu secināšanas infrastruktūru uzņēmumiem, kas ievieš mašīnmācīšanās un mākslīgā intelekta lietojumprogrammas. Tās platforma ir izstrādāta ātrai un mērogojamai modeļu apkalpošanai, apvienojot augstas caurlaidspējas secināšanu, ātru ieviešanu, automātisku mērogošanu, drošu uzņēmumu modeļu apkalpošanu un atbalstu atvērtā pirmkoda modeļu pakotņu veidošanai. Baseten palīdz inženierijas un mašīnmācīšanās komandām pārvaldīt modeļu infrastruktūras darbības prasības, lai tās varētu koncentrēties uz konkrētām nozarēm paredzētu modeļu izstrādi. Uzņēmums darbojas mākslīgā intelekta, SaaS un uzņēmumu tehnoloģiju jomā, un tajā strādā 11–50 darbinieki.
LinkedIn
Vakances uzņēmumā

Programmatūras inženieris, LLM secināšanas platforma – Baseten, hibrīddarbs

Veidojiet Baseten izplatīto LLM secināšanas platformu mākslīgā intelekta uzņēmumiem. Strādāsiet ar Kubernetes orkestrēšanu, modeļu API, maršrutēšanu, automātisko mērogošanu un ražošanas novērojamību.

USAmerikas Savienotās ValstisCAKalifornijaNYŅujorkaWAVašingtona
180 000 $ – 360 000 $ / gads
HibrīdiPilna slodzeVidējais līmenisVecākais speciālistsNepieciešamā Valoda: angļuFull-stack inženierisProgrammatūras inženieris
KubernetesSadalītās sistēmas

Apraksts

  • Veidojiet infrastruktūru un orkestrēšanu liela mēroga izplatītai LLM secināšanai, ietverot maršrutēšanu, automātisko mērogošanu, plānošanu un izpildes vides pārvaldību.
  • Izstrādājiet un pārvaldiet modeļu API, kas atbalsta strukturētus rezultātus, rīku un funkciju izsaukšanu, kā arī multimodālu apkalpošanu.
  • Ieviesiet API versiju pārvaldību, pieprasījumu validāciju, lietojuma uzskaiti, kvotas un autentifikāciju.
  • Izveidojiet metriku, izsekojumu un žurnālu instrumentāciju, kā arī atkārtojamus ātruma, uzticamības un kvalitātes etalonpārbaudes testus.
  • Definējiet stingru testēšanas, laidienu automatizācijas un izcilas darbības praksi.
  • Diagnosticējiet un stipriniet ražošanas sistēmas Kubernetes, izplatīto izpildes vidi, tīklu un GPU darba slodžu jomās.
  • Sadarbojieties ar secināšanas veiktspējas inženieriem un partneru komandām, lai nodrošinātu klientiem paredzētus optimizējumus.
  • Vadiet projektus no arhitektūras un izvietošanas līdz uzraudzībai un iterācijām, ko nosaka klientu atsauksmes.
  • Līdzsvarojiet sistēmas veiktspēju, uzticamību, darbības vienkāršību un izstrādātāju pieredzi.

Prasības

  • Datorzinātņu, inženierzinātņu vai saistītas jomas bakalaura, maģistra vai doktora grāds vai līdzvērtīga praktiskā pieredze.
  • Vismaz trīs gadu pieredze izplatītu sistēmu, aizmugursistēmu infrastruktūras vai liela mēroga API izstrādē un darbībā, kur uzticamība, latentums un mērogojamība ir kritiski svarīgi.
  • Pierādīta atbildība par zema latentuma un uzticamiem aizmugursistēmas pakalpojumiem, kas ietver ātruma ierobežošanu, autentifikāciju, kvotas, lietojuma uzskaiti un migrācijas.
  • Spēcīga infrastruktūras lēmumu pieņemšanas pieredze, tostarp profilēšana, izsekošana, jaudas plānošana un SLO pārvaldība.
  • Spēja diagnosticēt veiktspējas un uzticamības problēmas lietojumprogrammas, izpildes vides un infrastruktūras līmenī.
  • Spēcīga orientācija uz izstrādātāju pieredzi.
  • Vēlme apgūt jaunas valodas, ietvarus un sistēmas, kā arī interese par secināšanas inženieriju.
  • Teicamas rakstiskās saziņas un sadarbības prasmes, tostarp skaidra projektēšanas dokumentācija un efektīvs darbs starp dažādām komandām.
  • Pieredze ar LLM secināšanas dzinējiem vai ietvariem, piemēram, vLLM, SGLang, TensorRT-LLM, TGI vai Dynamo, vai ieguldījums to izstrādē tiks uzskatīts par priekšrocību.
  • Padziļināta Kubernetes pieredze, tostarp ar operatoriem un pielāgotiem resursiem; pakalpojumu tīklu vai API vārteju pārzināšana tiks uzskatīta par priekšrocību.
  • Pieredze ar izplatīto plānošanu, automātisko mērogošanu vai pakalpojumu orkestrēšanu tiks uzskatīta par priekšrocību.
  • Pieredze ar GPU darba slodžu darbināšanu ražošanas vidē tiks uzskatīta par priekšrocību.
  • Pieredze izstrādātājiem paredzētā infrastruktūrā vai API jomā vai ieguldījums atvērtā pirmkoda infrastruktūras vai mašīnmācīšanās sistēmās tiks uzskatīts par priekšrocību.
  • Novērojamības rīku, CI/CD sistēmu vai laidienu automatizācijas pārzināšana tiks uzskatīta par priekšrocību.

Priekšrocības

  • Konkurētspējīgs atalgojums un nozīmīga kapitāldaļu pakete.
  • ASV darbiniekiem un viņu apgādājamajiem pilnībā apmaksāta medicīniskā, zobārstniecības un redzes apdrošināšana.
  • Elastīgs apmaksāts atvaļinājums, tostarp uzņēmuma kopīgais ziemas pārtraukums.
  • Apmaksāts bērna kopšanas atvaļinājums.
  • Auglības un ģimenes veidošanas atbalsts, izmantojot Carrot stipendiju.
  • ASV darbiniekiem uzņēmuma organizēts 401(k) plāns.
  • Iespēja iepazīt dažādus mašīnmācīšanās jaunuzņēmumus, radot plašas mācīšanās un profesionālās tīklošanās iespējas.

Saistītās vakances

My Hero VA

Bilingual Appointment Setter (Remote, Colombia)

My Hero VA
1 – 10 Darbinieki
KonsultācijasLoģistikaMārketings
COKolumbija
800 $ / mēnesis
AttālinātiPilna slodzeVidējais līmenisVecākais speciālistsNepieciešamā Valoda: angļuNepieciešamā Valoda: spāņuTikšanos organizators

Make outbound calls in English and Spanish to book school visits for a Florida-based barber education business. This remote Colombia role also includes prospect follow-up and daily administrative work.

Atvērt
Inkster GmbH

Marketing Manager, Hybrid in Hamburg

Inkster GmbH
1 – 10 Darbinieki
Elektroniskā komercijaMazumtirdzniecībaSkaistums
DEVācijaHibrīdiPilna slodzeVidējais līmenisVecākais speciālistsNepieciešamā Valoda: vācuNepieciešamā Valoda: angļuMārketings

Lead campaign creative development, social media content, and performance analysis at Inkster, a European provider of temporary fruit-based tattoos. Test and optimize marketing creatives using campaign insights and market trends.

Atvērt