Baseten
Baseten
Baseten poskytuje infrastrukturu pro inferenci modelů společnostem, které nasazují aplikace založené na strojovém učení a umělé inteligenci. Její platforma je určena pro rychlé a škálovatelné poskytování modelů a kombinuje vysokou propustnost inference, rychlé nasazení, automatické škálování, bezpečné poskytování modelů pro podnikové prostředí a podporu balení modelů s otevřeným zdrojovým kódem. Baseten pomáhá technickým týmům a týmům zaměřeným na strojové učení zvládat provozní nároky infrastruktury modelů, aby se mohly soustředit na vývoj modelů pro konkrétní domény. Společnost působí v oblasti umělé inteligence, SaaS a podnikových technologií a její tým tvoří 11 až 50 zaměstnanců.

Manažer inženýrství výkonu GPU inference v Baseten

Ve společnosti Baseten, která buduje infrastrukturu pro AI, povedete vývoj výkonu GPU inference. Budete řídit optimalizaci runtime prostředí, efektivitu modelů a růst specializovaného technického týmu.

Popis

  • Řídit, mentorovat a rozvíjet inženýry pro výkon inference prostřednictvím pravidelných schůzek jeden na jednoho, zpětné vazby, plánování kariéry a hodnocení výkonu
  • Nabírat GPU a inference inženýry a současně podporovat spolupracující týmovou kulturu
  • Vlastnit plán vývoje výkonu runtime prostředí a zajišťovat jeho realizaci
  • Posuzovat technické návrhy, řídit profilování a optimalizaci a pomáhat inženýrům vyhodnocovat časovou a paměťovou náročnost
  • Uvádět do produkce kvantizaci, spekulativní dekódování, opětovné využití KV cache, dávkové předvyplňování a vlastní plánování
  • Převádět zvýšení výkonu na měřitelná zlepšení v počtu tokenů na GPU-hodinu, využití, latenci a nákladech
  • Přenášet nové architektury modelů na moderní hardware a ladit jejich výkon
  • Spolupracovat s týmy infrastruktury, inference platformy, kernelů, API modelů a zákaznických týmů na určování priorit, koordinaci uvedení a dodávání zlepšení
  • Stanovovat inženýrské standardy pro kvalitu, benchmarking, provozní dokonalost a reakci na incidenty
  • Rozvíjet optimalizaci agentic inference, agentic kernely, trénování modelů se spekulativním dekódováním a inference stack Baseten

Požadavky

  • Bakalářské, magisterské nebo doktorské vzdělání v oboru informatiky, inženýrství, matematiky nebo příbuzném oboru
  • Manažerské zkušenosti zahrnující nábor inženýrů, mentoring, poskytování zpětné vazby a hodnocení výkonu
  • Zkušenosti s vedením týmů pro optimalizaci GPU nebo s jejich úzkou podporou při trénování, inferenci či doporučovacích systémech
  • Hluboké technické znalosti GPU úloh, architektury a kompromisů souvisejících s výkonem
  • Znalost knihoven strojového učení včetně PyTorch, TensorRT nebo TensorRT-LLM
  • Prokázaná schopnost stanovovat plány vývoje a dodávat s týmem komplexní technické projekty
  • Silné písemné a ústní komunikační dovednosti pro slaďování zainteresovaných stran napříč týmy
  • Znalost inference enginů, jako jsou vLLM, SGLang nebo TensorRT-LLM
  • Zkušenosti s použitím metod optimalizace LLM, jako jsou kvantizace, spekulativní dekódování a průběžné dávkování
  • Zkušenosti s vývojem GPU kernelů nebo prací s nimi pomocí CUDA, Triton či CUTLASS
  • Zkušenosti se škálováním inženýrského týmu během rychlého růstu startupu
  • Předchozí praktické zkušenosti jako inženýr pro výkon nebo systémový inženýr před přechodem do managementu

Benefity

  • Konkurenční kompenzační balíček s významným podílem ve společnosti
  • Pro zaměstnance v USA plné zdravotní, zubní a oční pojištění pro zaměstnance a vyživované osoby
  • Flexibilní placené volno včetně celofiremní zimní přestávky
  • Placená rodičovská dovolená
  • Podpora plodnosti a budování rodiny prostřednictvím Carrot
  • Pro zaměstnance v USA firemní plán 401(k)
  • Příležitosti pracovat s řadou startupů v oblasti strojového učení a budovat kontakty v oboru

Související pracovní nabídky

Red Hat

Konzultant cloudové architektury OpenShift

Red Hat

Navrhujte a zavádějte řešení Red Hat OpenShift, Kubernetes a hybridního cloudu pro firemní zákazníky. Veďte projekty zaměřené na infrastrukturu, automatizaci a dodávání aplikací.

Otevřít
Kreato Global | BPO and Language Solutions

Vzdálený tlumočník angličtiny a španělštiny (OPI/VRI)

Kreato Global | BPO and Language Solutions

Tlumočte na dálku mezi anglicky a španělsky mluvícími lidmi v oblasti zdravotnictví, financí, sociálních služeb a zákaznické podpory. Poskytujte jazykovou podporu společnosti Kreato Global napříč Latinskou Amerikou.

Otevřít
Taurus SA

IT technik a specialista zákaznické podpory

Taurus SA
51 – 200 Zaměstnanci
BankovnictvíFintechKrypto

Podpora firemních uživatelů Taurus a externích klientů v regulované fintechové společnosti zaměřené na digitální aktiva. Správa infrastruktury Azure, koncových zařízení, třídění požadavků a řešení problémů klientů.

Otevřít
RecruitGo

Vzdálený výkonný asistent pro komunikaci a marketing — Filipíny

RecruitGo
51 – 200 Zaměstnanci
LogistikaMarketingPoradenství

Administrativní podpora, práce s CRM, oslovování kontaktů a marketing pro RecruitGo, zaměstnavatele na záznam, který zajišťuje globálním klientům talenty z rozvíjejících se trhů. Každodenní administrativní podpora dvou klientů působících na britském trhu a příprava kreativních kampaní.

Otevřít
Salonkee

Obchodní zástupce pro salonní software — Göttingen

Salonkee
51 – 200 Zaměstnanci
KrásaSaaSTržiště

Rozvíjejte prodej salonního softwaru Salonkee v Göttingenu: oslovujte nové zákazníky, předvádějte produkt a veďte obchodní případy od začátku do konce. Budujte vztahy s majiteli salonů a provázejte je od prvního kontaktu až po uzavření obchodu.

Otevřít
Salonkee

Hybridní obchodní zástupce, Lindau

Salonkee
51 – 200 Zaměstnanci
KrásaSaaSTržiště

Rozvíjejte podnikání Salonkee v oblasti salonního softwaru v Lindau a Friedrichshafenu: oslovujte klienty, předvádějte produkt a provázejte prodej od prvního kontaktu až po uzavření. Budujte vztahy s místními majiteli salonů a dotahujte každou obchodní příležitost k uzavření obchodu.

Otevřít