Baseten tarjoaa mallipäätelmäinfrastruktuuria yrityksille, jotka ottavat käyttöön koneoppimis- ja tekoälysovelluksia. Sen alusta on suunniteltu nopeaan ja skaalautuvaan mallien palvelemiseen, ja se yhdistää suuren läpimenon päätelmät, nopean käyttöönoton, automaattisen skaalauksen, suojatun yritystason mallien palvelemisen sekä tuen avoimen lähdekoodin mallipaketointiin. Baseten auttaa suunnittelu- ja koneoppimistiimejä hallitsemaan malliinfrastruktuurin operatiivisia vaatimuksia, jotta ne voivat keskittyä toimialakohtaisten mallien kehittämiseen. Yritys toimii tekoälyn, SaaS-palveluiden ja yritysteknologian aloilla, ja sen palveluksessa on 11–50 työntekijää.
Ratkaisuarkkitehti – tekoäly-/koneoppimisinferenssi, etätyö Yhdysvalloissa
Liity Basetenille ratkaisuarkkitehdiksi auttamaan asiakkaita muuttamaan tekoäly- ja koneoppimisvaatimukset tuotantovalmiiksi inferenssijulkaisuiksi ja konseptitodistuksiksi. Työskentelet myynnin ja tuotekehityksen kanssa vaatimusmäärittelyssä, demoissa, vertailuanalyyseissa, arkkitehtuurissa ja teknisessä toimituksessa.
Yhdysvallat145 000 $ – 290 000 $ / vuosi
EtätyöKokoaikainenKeskitasoSeniorVaadittu Kieli: englantiRatkaisuinsinööriKuvaus
- Yhteistyö myynnin kanssa asiakkaiden kartoituspuheluissa
- Esittele ratkaisuja ja määrittele teknisiä kokonaisuuksia onnistumiskriteerien, arkkitehtuurin ja julkaisu-suunnitelmien ympärillä
- Vastaa LLM-mallien, upotusten, kuva- ja videotuotannon sekä puhetekoälyn vertailuanalyyseista ja toistettavista julkaisuista
- Ohjaa asiakkaita grafiikkasuoritinten ja inferenssin konfigurointivalinnoissa, mukaan lukien H100:n ja B200:n valinta sekä latenssin ja läpimenon optimointi
- Laadi toistettavia julkaisuohjeita yleisille malleille ja käyttötapauksille
- Kehitä syvällinen käytännön osaaminen vLLM:stä, SGLangista ja TRT-LLM:stä sekä niiden tavanomaisista konfiguraatioista ja kompromisseista
- Määrittele konseptitodistukset ja koordinoi sidosryhmiä aikataulujen, toimitusten ja seuraavien vaiheiden osalta
- Johda asiakkaiden konseptitodistuksia teknisenä projektipäällikkönä
- Ota mukaan Forward Deployed Engineering, kun projektit edellyttävät syvällisempää tai monimutkaisempaa teknistä tukea
Vaatimukset
- Tausta tekoälyn ja koneoppimisen parissa sekä uskottavuus keskustella teknisistä aiheista asiakkaiden sidosryhmien kanssa
- Vahvat asiakasviestintätaidot, mukaan lukien jäsennelty vaatimusmäärittely ja kyky ratkaista epäselviä vaatimuksia
- Riittävä tekninen asiantuntemus ratkaisujen määrittelyyn ilman tuotantokoodin kirjoittamista
- Kyky kirjoittaa skriptejä ja tehdä prototyyppejä tarvittaessa sekä valmius käyttää nopeita koodausmenetelmiä
- Kokemusta koneoppimisen inferenssijulkaisujen vertailuanalyysien tekemisestä tai tukemisesta
- Ymmärrys inferenssin suorituskykyyn ja kustannuksiin vaikuttavista infrastruktuuripäätöksistä, mukaan lukien grafiikkasuoritinten valinta sekä latenssin ja läpimenon säätäminen
- Kokemusta asiakkaiden konseptitodistusten johtamisesta myynnin ja tuotekehityksen välillä monialaisena teknisenä vastuuhenkilönä
Edut
- Kilpailukykyinen palkkaus ja merkityksellinen omistusosuus
- Yhdysvalloissa työskenteleville työntekijöille ja heidän huollettavilleen kattava sairaus-, hammas- ja näkövakuutus
- Joustava palkallinen vapaa ja koko yrityksen yhteinen talvitauko
- Palkallinen vanhempainvapaa
- Hedelmällisyys- ja perheen perustamisen tuki Carrotin kautta
- Yhdysvalloissa työskenteleville työntekijöille yrityksen järjestämä 401(k)-eläkesäästöohjelma
- Mahdollisuuksia työskennellä monipuolisten koneoppimisen startup-yritysten kanssa ja laajentaa oppimista sekä ammatillisia verkostoja