A Baseten modellkövetkeztetési infrastruktúrát biztosít a gépi tanulási és mesterségesintelligencia-alkalmazásokat üzemeltető vállalatok számára. Platformját gyors és jól skálázható kiszolgálásra tervezték: nagy áteresztőképességű következtetést, gyors bevezetést, automatikus skálázást, biztonságos vállalati modellkiszolgálást, valamint a nyílt forráskódú modellek csomagolásának támogatását kínálja. A Baseten segít a mérnöki és gépi tanulási csapatoknak kezelni a modellinfrastruktúra üzemeltetésével járó feladatokat, így azok a szakterület-specifikus modellek fejlesztésére összpontosíthatnak. A vállalat a mesterséges intelligencia, a SaaS és a vállalati technológiák területén működik, és 11–50 fős csapattal rendelkezik.
Megoldástervező – AI/ML-inferencia, távmunka az Egyesült Államokban
A Baseten megoldástervezőjeként segítsen az ügyfeleknek AI/ML-követelményeiket éles használatra kész inferenciamegoldásokká és koncepcióbizonyításokká alakítani. Az értékesítési és mérnöki csapatokkal együttműködve dolgozzon a feltáráson, bemutatókon, teljesítményteszteken, architektúrán és műszaki megvalósításon.
Egyesült Államok145 000 $ – 290 000 $ / év
TávoliTeljes munkaidőKözéphaladóSzeniorKötelező Nyelv: angolMegoldásmérnökLeírás
- Működjön együtt az értékesítési csapattal az ügyfelekkel folytatott feltáró beszélgetések során
- Vezesse a sikerességi kritériumokhoz, az architektúrához és a telepítési tervekhez kapcsolódó bemutatókat és műszaki hatókör-meghatározást
- Vállaljon felelősséget az LLM-ek, embeddingek, kép- és videógenerálás, valamint a hangalapú AI teljesítménytesztjeiért és ismételhető telepítéseiért
- Segítse az ügyfeleket a GPU- és inferenciakonfigurációs lehetőségek mérlegelésében, beleértve a H100 és B200 közötti választást, valamint a késleltetés és az áteresztőképesség optimalizálását
- Dolgozzon ki ismételhető telepítési útmutatókat gyakori modellekhez és felhasználási esetekhez
- Szerezzen mély gyakorlati szakértelmet a vLLM, az SGLang és a TRT-LLM használatában, valamint azok tipikus konfigurációiban és kompromisszumaiban
- Határozza meg a koncepcióbizonyításokat, és koordinálja az érintetteket az ütemezések, a teljesítendő feladatok és a következő lépések mentén
- Műszaki projektvezetőként irányítsa az ügyfelek koncepcióbizonyításait
- Vondja be a Forward Deployed Engineering csapatot, amikor a projektek mélyebb vagy összetettebb műszaki támogatást igényelnek
Követelmények
- AI/ML-háttér, amely kellő hitelességet biztosít az ügyfél érintettjeivel folytatott műszaki megbeszélésekhez
- Erős ügyfélkommunikációs készségek, beleértve a strukturált feltárást és a homályos követelmények tisztázásának képességét
- A megoldások hatókörének meghatározásához elegendő műszaki szakértelem éles kód írása nélkül
- Képesség szükség esetén szkriptek írására és prototípusok készítésére, valamint magabiztos munkavégzés gyors kódolási munkafolyamatokban
- Gépi tanulási inferenciakörnyezetek teljesítménytesztelésében vagy annak támogatásában szerzett tapasztalat
- Az inferencia teljesítményét és költségét befolyásoló infrastruktúradöntések ismerete, beleértve a GPU-választást, valamint a késleltetés és az áteresztőképesség hangolását
- Ügyféloldali koncepcióbizonyítások vezetésében szerzett tapasztalat értékesítési és mérnöki csapatok között, többfunkciós műszaki felelősként
Juttatások
- Versenyképes juttatási csomag érdemi részesedéssel
- Az Egyesült Államokban dolgozó munkatársak és eltartottjaik számára teljes körű egészség-, fogászati és látásbiztosítás
- Rugalmas fizetett szabadság vállalati téli szünettel
- Fizetett szülői szabadság
- Termékenységi és családalapítási támogatás a Carroton keresztül
- Az Egyesült Államokban dolgozó munkatársak számára a vállalat által szervezett 401(k)-program
- Lehetőség sokféle ML-startuppal való együttműködésre, valamint a tanulás és a szakmai kapcsolati háló bővítésére