OpenRouter yra dirbtinio intelekto platforma, suteikianti kūrėjams ir komandoms vieningą būdą pasiekti bei naudoti skirtingų tiekėjų didžiuosius kalbos modelius. Jos modelių kataloge yra, pavyzdžiui, „Mistral Small 3“ ir „DeepSeek R1 Distill Qwen 32B“, padedančių kurti greitį, tikslumą ir lankstų modelio pasirinkimą teikiančias programas. OpenRouter taip pat siūlo programavimui ir žaidimų kūrimui skirtus įrankius, kuriuos galima pritaikyti tokiose srityse kaip rinkodara, finansai ir švietimas.
Inžinerijos vadovas, teikėjų ekosistema — OpenRouter (nuotolinis darbas)
Vadovaukite „OpenRouter“ teikėjų ekosistemos inžinerijos komandai ir išorės teikėjų partnerystėms. Būkite atsakingi už integracijas, maršrutizavimą, vertinimus ir multimodalinio išvedimo galimybes, skirtas įmonių prieigai prie LLM.
Aprašymas
- Vadovaukite teikėjų ekosistemos inžinerijos komandai ir ją plėskite
- Samdykite inžinierius, nustatykite veiksmų planą, peržiūrėkite kodą, valdykite incidentus ir atstovaukite komandai
- Būkite atsakingi už teikėjų adapterius, galinių punktų gyvavimo ciklus ir maršrutizavimo sistemas
- Būkite pagrindinių modelių teikėjų techninis partneris
- Koordinuokite pirmosios dienos ir slaptus produktų pristatymus
- Bendradarbiaukite su rinkodaros paleidimo, verslo plėtros ir teisės komandomis, kad įtrauktumėte teikėjus
- Plėskite platformos galimybes vaizdų, vaizdo, garso, įterpinių, realiojo laiko ir paketinio išvedimo srityse
- Būkite atsakingi už vertinimo programas ir išvedimo kokybę
- Naudokite lyginamųjų testų rezultatus ir gamybos telemetriją maršrutizavimo sprendimams priimti bei teikėjams teikti grįžtamąjį ryšį
- Atsiskaitykite inžinerijos viceprezidentui
Reikalavimai
- Bent ketverių metų inžinerijos valdymo patirtis
- Patirtis kuriant arba plečiant komandas spartaus augimo laikotarpiu
- Puikios paskirstytųjų sistemų, API projektavimo ir LLM išvedimo žinios
- Srautinio perdavimo, įrankių iškvietimo, raginimų spartinančiosios atmintinės, kvantavimo ir pralaidumo bei delsos kompromisų supratimas
- Teikėjų API skirtumų supratimas ir milijonų užklausų maršrutizavimas tarp nevienalyčių galinių punktų
- Praktinio programavimo patirtis ir AI pagalba grindžiamų kūrimo įrankių išmanymas
- Gebėjimas bendradarbiauti išorėje su modelių laboratorijomis ir inžinerijos komandomis
- Patirtis pritraukiant ir išlaikant aukštos kvalifikacijos inžinierius
- Įrodytas iniciatyvumas ir aiškus bendravimas
- Pragmatiškas požiūris į darbą mažose inžinerijos organizacijose
- Privalumas: patirtis dirbant su išvedimo teikėju, modelių laboratorija, GPU debesija arba keliomis LLM API
- Privalumas: patirtis dirbant su TypeScript, Cloudflare Workers, Postgres, ClickHouse, GCP arba Vercel
- Privalumas: patirtis vertinimo, lyginamosios analizės, maršrutizavimo arba apkrovos balansavimo sistemų srityje
- Privalumas: patirtis dirbant su multimodalinėmis API arba realiojo laiko ir paketiniu išvedimu
- Privalumas: patirtis atliekant tiekėjų saugumo ir atitikties patikras, įskaitant NDA, DPA ir SOC 2
- Privalumas: patirtis naudojant „OpenRouter“ arba kuriant AI infrastruktūros ir kūrėjų įrankių šalutinius projektus
Privalumai
- Dalyvavimas akciniame kapitale
- Nuotolinis darbas