Baseten
Baseten
Baseten tarjoaa mallipäätelmäinfrastruktuuria yrityksille, jotka ottavat käyttöön koneoppimis- ja tekoälysovelluksia. Sen alusta on suunniteltu nopeaan ja skaalautuvaan mallien palvelemiseen, ja se yhdistää suuren läpimenon päätelmät, nopean käyttöönoton, automaattisen skaalauksen, suojatun yritystason mallien palvelemisen sekä tuen avoimen lähdekoodin mallipaketointiin. Baseten auttaa suunnittelu- ja koneoppimistiimejä hallitsemaan malliinfrastruktuurin operatiivisia vaatimuksia, jotta ne voivat keskittyä toimialakohtaisten mallien kehittämiseen. Yritys toimii tekoälyn, SaaS-palveluiden ja yritysteknologian aloilla, ja sen palveluksessa on 11–50 työntekijää.

Tekniikkapäällikkö, GPU-inferenssin suorituskyky Basetenilla

Johda GPU-inferenssin suorituskyvyn kehittämistä Basetenilla, tekoälyinfrastruktuuriyrityksessä. Ohjaa ajonaikaista optimointia, mallien tehokkuutta ja erikoistuneen teknisen tiimin kasvua.

Kuvaus

  • Johda, mentoroi ja kehitä inferenssin suorituskykyinsinöörejä säännöllisten kahdenkeskisten keskustelujen, palautteen, urasuunnittelun ja suoritusarviointien avulla
  • Rekrytoi GPU- ja inferenssi-insinöörejä sekä rakenna yhteistyöhön perustuvaa tiimikulttuuria
  • Vastaa ajonaikaisen suorituskyvyn tiekartasta ja sen toteutuksesta
  • Arvioi teknisiä suunnitelmia, ohjaa profilointi- ja optimointityötä sekä auta insinöörejä arvioimaan ajankäyttöä ja muistinkulutusta
  • Vie kvantisointi, spekulatiivinen dekoodaus, KV-välimuistin uudelleenkäyttö, lohkoittainen esitäyttö ja mukautettu ajoitus tuotantoon
  • Muunna suorituskykyparannukset mitattaviksi parannuksiksi GPU-tuntia kohden tuotetuissa tokeneissa, käyttöasteessa, viiveessä ja kustannuksissa
  • Tuo uusia malliarkkitehtuureja uusille laitteistoalustoille ja säädä niiden suorituskykyä
  • Tee yhteistyötä infrastruktuuri-, inferenssialusta-, kernel-, malli-API- ja asiakasrajapintatiimien kanssa työn priorisoimiseksi, julkaisujen koordinoimiseksi ja parannusten toimittamiseksi
  • Luo suunnittelustandardit laadulle, vertailumittauksille, operatiiviselle erinomaisuudelle ja häiriötilanteisiin vastaamiselle
  • Edistä agenttimaista inferenssioptimointia, agenttisia kerneleitä, spekulatiivisen dekoodauksen mallikoulutusta ja Baseten Inference Stackia

Vaatimukset

  • Tietojenkäsittelytieteen, tekniikan, matematiikan tai lähialan kandidaatin, maisterin tai tohtorin tutkinto
  • Esihenkilökokemusta insinöörien rekrytoinnista, mentoroinnista, palautteesta ja suoritusarvioinneista
  • Kokemusta GPU-optimointitiimien johtamisesta tai tiiviistä tukemisesta koulutuksessa, inferenssissä tai suosittelujärjestelmissä
  • Syvällinen tekninen ymmärrys GPU-työkuormista, arkkitehtuurista ja suorituskyvyn kompromisseista
  • Kokemusta koneoppimiskirjastoista, kuten PyTorchista, TensorRT:stä tai TensorRT-LLM:stä
  • Osoitettu kyky laatia tiekarttoja ja toimittaa monimutkaisia teknisiä projekteja tiimin kanssa
  • Erinomaiset kirjalliset ja suulliset viestintätaidot sidosryhmien yhteensovittamiseen tiimien välillä
  • Kokemusta inferenssimoottoreista, kuten vLLM:stä, SGLangista tai TensorRT-LLM:stä
  • Kokemusta LLM-optimointimenetelmistä, kuten kvantisoinnista, spekulatiivisesta dekoodauksesta ja jatkuvasta eräkäsittelystä
  • Kokemusta GPU-ytimien kehittämisestä tai niiden kanssa työskentelystä CUDAa, Tritonia tai CUTLASSia käyttäen
  • Kokemusta insinööritiimin kasvattamisesta nopeasti kasvavan startup-yrityksen aikana
  • Aiempi käytännön kokemus suorituskyky- tai järjestelmäinsinöörinä ennen siirtymistä esihenkilötehtäviin

Edut

  • Kilpailukykyinen palkitsemispaketti, johon kuuluu merkittävä osakeomistus
  • Yhdysvalloissa työskenteleville työntekijöille ja heidän huollettavilleen kattava sairaus-, hammas- ja näkövakuutus
  • Joustava palkallinen vapaa, mukaan lukien koko yrityksen yhteinen talvitauko
  • Palkallinen vanhempainvapaa
  • Hedelmällisyyteen ja perheen perustamiseen liittyvä tuki Carrotin kautta
  • Yhdysvalloissa työskenteleville työntekijöille yrityksen järjestämä 401(k)-eläkesäästöohjelma
  • Mahdollisuus työskennellä useiden koneoppimisstartupien kanssa ja rakentaa toimialan verkostoja

Samankaltaiset työpaikat

CFC

Liiketoiminta-analyytikko, vakuutustoiminnot

CFC

Tue CFC:n strategista muutosta ja toiminnan kehittämistä muuttamalla vakuutusliiketoiminnan tarpeet käytännön ratkaisuiksi vakuutusten myöntämisessä, korvauskäsittelyssä, taloudessa ja vaatimustenmukaisuudessa.

Avaa
Health Care Service Corporation

Vanhempi järjestelmäanalyytikko, Health Care Service Corporation (etätyö, Yhdysvallat)

Health Care Service Corporation

Ohjaa terveydenhuollon analytiikkatiimejä tietostrategian suunnittelussa ja data-aineistojen toimittamisessa. Koordinoi sidosryhmien eskalointeja ja tue tietokantasovelluksia, mukaan lukien VSAM-tiedostojen käsittely.

Avaa
University of Arkansas System

Johdon assistentti, lähialojen terveysalan koulutus

University of Arkansas System

Tue opiskelijavalintaa ja lähialojen terveysalan koulutusta Arkansasin lääketieteellisen yliopiston terveystieteiden tiedekunnassa koordinoimalla aikatauluja, hankintoja, opettajahallintoa ja opiskelijapalveluja. Auta hallinnoimaan Arkansasin terveydenhuollon koulutusohjelmien osastotoimintaa.

Avaa