OpenRouter je platforma umelej inteligencie, ktorá vývojárom a tímom poskytuje jednotný spôsob prístupu k veľkým jazykovým modelom od rôznych poskytovateľov a práce s nimi. Jej katalóg modelov zahŕňa možnosti ako Mistral Small 3 a DeepSeek R1 Distill Qwen 32B, ktoré podporujú aplikácie zamerané na rýchlosť, presnosť a flexibilný výber modelu. OpenRouter ponúka aj nástroje na programovanie a tvorbu hier s možným využitím v oblastiach, ako sú marketing, financie a vzdelávanie.
Manažér/ka inžinierstva pre ekosystém poskytovateľov — OpenRouter (práca na diaľku)
Povediete inžiniersky tím pre ekosystém poskytovateľov OpenRouter a partnerstvá s externými poskytovateľmi. Budete zodpovedať za integrácie, smerovanie, hodnotenie a multimodálne inferenčné funkcie pre podnikový prístup k LLM.
Spojené štáty245 000 $ – 295 000 $ / rok
Na diaľkuPlný úväzokStredná úroveňSeniorPožadovaný Jazyk: angličtinaManažér inžinierstvaPopis
- Povediete a rozšírite inžiniersky tím pre ekosystém poskytovateľov
- Budete prijímať inžinierov, určovať plán, kontrolovať kód, riadiť incidenty a zastupovať tím
- Budete zodpovedať za adaptéry poskytovateľov, životné cykly koncových bodov a systémy smerovania
- Budete technickým partnerom popredných poskytovateľov modelov
- Budete koordinovať uvedenia produktov v deň nula a utajované uvedenia
- Budete spolupracovať s tímami go-to-market, rozvoja podnikania a právnym tímom pri zapájaní poskytovateľov
- Rozšírite možnosti platformy o obrazové, video, zvukové, embeddingové, realtime a dávkové inferencie
- Budete zodpovedať za programy hodnotenia a kvalitu inferencie
- Výsledky benchmarkov a telemetriu z produkcie využijete na usmerňovanie rozhodnutí o smerovaní a poskytovanie spätnej väzby poskytovateľom
- Budete podliehať viceprezidentovi pre inžinierstvo
Požiadavky
- Aspoň štyri roky skúseností s riadením inžinierskych tímov
- Skúsenosti s budovaním alebo rozširovaním tímov počas rýchleho rastu
- Pokročilé znalosti distribuovaných systémov, návrhu API a inferencie LLM
- Znalosť streamovania, volania nástrojov, cachovania promptov, kvantizácie a kompromisov medzi priepustnosťou a latenciou
- Znalosť rozdielov medzi API poskytovateľov a smerovania miliónov požiadaviek cez heterogénne koncové body
- Praktické skúsenosti s programovaním a znalosť nástrojov na vývoj s podporou AI
- Schopnosť externe spolupracovať s laboratóriami vyvíjajúcimi modely a inžinierskymi tímami
- Skúsenosti s náborom a udržaním výkonných inžinierov
- Preukázaná iniciatíva a jasná komunikácia
- Pragmatický prístup k práci v štíhlych inžinierskych organizáciách
- Výhodou sú skúsenosti s poskytovateľom inferencie, laboratóriom vyvíjajúcim modely, GPU cloudom alebo viacerými API pre LLM
- Výhodou sú skúsenosti s TypeScriptom, Cloudflare Workers, Postgresom, ClickHouse, GCP alebo Vercelom
- Výhodou sú skúsenosti s hodnotením, benchmarkmi, smerovaním alebo systémami vyvažovania záťaže
- Výhodou sú skúsenosti s multimodálnymi API alebo realtime a dávkovou inferenciou
- Výhodou sú skúsenosti s bezpečnostnými a compliance kontrolami dodávateľov vrátane NDA, DPA a SOC 2
- Výhodou sú skúsenosti s používaním OpenRoutera alebo s budovaním AI infraštruktúry a vedľajších projektov pre nástroje pre vývojárov
Benefity
- Účasť na vlastníctve spoločnosti
- Práca na diaľku