OpenRouter je platforma umetne inteligence, ki razvijalcem in ekipam omogoča enoten dostop do velikih jezikovnih modelov različnih ponudnikov ter delo z njimi. Njen katalog modelov vključuje možnosti, kot sta Mistral Small 3 in DeepSeek R1 Distill Qwen 32B, ki podpirajo aplikacije, osredotočene na hitrost, natančnost in prilagodljiv izbor modela. OpenRouter ponuja tudi orodja za programiranje in razvoj iger, z morebitno uporabo na področjih, kot so trženje, finance in izobraževanje.
Vodja inženiringa za ekosistem ponudnikov — OpenRouter (delo na daljavo)
Vodili boste inženirsko ekipo OpenRouterja za ekosistem ponudnikov in partnerstva z zunanjimi ponudniki. Skrbeli boste za integracije, usmerjanje, vrednotenja in multimodalne zmogljivosti sklepanja za poslovni dostop do LLM-jev.
Opis
- Vodili in širili boste inženirsko ekipo za ekosistem ponudnikov
- Zaposlovali boste inženirje, določali načrt, pregledovali kodo, upravljali incidente in predstavljali ekipo
- Skrbeli boste za adapterje ponudnikov, življenjske cikle končnih točk in sisteme usmerjanja
- Delovali boste kot tehnični sogovornik vodilnih ponudnikov modelov
- Usklajevali boste predstavitve izdelkov na dan nič in prikrite predstavitve
- Sodelovali boste z ekipami za vstop na trg, razvoj poslovanja in pravno ekipo pri vključevanju ponudnikov
- Razširili boste zmogljivosti platforme na slike, video, zvok, vdelave, delo v realnem času in paketno sklepanje
- Skrbeli boste za programe vrednotenja in kakovost sklepanja
- Rezultate primerjalnih testov in telemetrijo iz produkcije boste uporabljali za usmerjanje odločitev o usmerjanju ter zagotavljanje povratnih informacij ponudnikom
- Poročali boste podpredsedniku za inženiring
Zahteve
- Vsaj štiri leta izkušenj z vodenjem inženirskih ekip
- Izkušnje z vzpostavljanjem ali širjenjem ekip v obdobju hitre rasti
- Dobro poznavanje porazdeljenih sistemov, zasnove API-jev in sklepanja LLM
- Razumevanje pretakanja, klicanja orodij, predpomnjenja pozivov, kvantizacije ter kompromisov med prepustnostjo in zakasnitvijo
- Razumevanje razlik med API-ji ponudnikov in usmerjanja milijonov zahtev prek heterogenih končnih točk
- Praktične izkušnje s programiranjem in poznavanje razvojnih orodij s podporo umetne inteligence
- Sposobnost zunanjega sodelovanja z laboratoriji za razvoj modelov in inženirskimi ekipami
- Izkušnje z zaposlovanjem in ohranjanjem visoko uspešnih inženirjev
- Dokazana samoiniciativnost in jasna komunikacija
- Pragmatičen pristop k delu v vitkih inženirskih organizacijah
- Prednost: izkušnje s ponudnikom sklepanja, laboratorijem za razvoj modelov, oblakom GPU ali več API-ji LLM
- Prednost: izkušnje s TypeScriptom, Cloudflare Workers, Postgresom, ClickHouseom, GCP-jem ali Vercelom
- Prednost: izkušnje z vrednotenji, primerjalnimi testi, usmerjanjem ali sistemi za uravnoteženje obremenitve
- Prednost: izkušnje z multimodalnimi API-ji ali sklepanjem v realnem času in paketnim sklepanjem
- Prednost: izkušnje s pregledi varnosti in skladnosti dobaviteljev, vključno z NDA-ji, DPA-ji in SOC 2
- Prednost: izkušnje z uporabo OpenRouterja ali gradnjo infrastrukture AI in stranskih projektov za orodja za razvijalce
Ugodnosti
- Udeležba pri lastništvu
- Delo na daljavo