OpenRouter je platforma umjetne inteligencije koja programerima i timovima pruža objedinjeni način pristupa velikim jezičnim modelima različitih pružatelja i rada s njima. Njezin katalog modela uključuje opcije poput modela Mistral Small 3 i DeepSeek R1 Distill Qwen 32B, koji podržavaju aplikacije usmjerene na brzinu, točnost i fleksibilan odabir modela. OpenRouter nudi i alate za programiranje i razvoj igara, s mogućom primjenom u područjima poput marketinga, financija i obrazovanja.
Voditelj/ica inženjerstva za ekosustav pružatelja — OpenRouter (rad na daljinu)
Vodit ćete inženjerski tim za ekosustav pružatelja OpenRoutera i partnerstva s vanjskim pružateljima. Bit ćete odgovorni za integracije, usmjeravanje, evaluacije i multimodalne mogućnosti izvođenja za poslovni pristup LLM-ovima.
Sjedinjene Američke Države245.000 $ – 295.000 $ / godina
UdaljenoPuno radno vrijemeSrednja razinaSeniorObavezan Jezik: engleskiVoditelj inženjeringaOpis
- Vodit ćete i širiti inženjerski tim za ekosustav pružatelja
- Zapošljavat ćete inženjere, definirati plan, pregledavati kod, upravljati incidentima i predstavljati tim
- Bit ćete odgovorni za adaptere pružatelja, životne cikluse krajnjih točaka i sustave usmjeravanja
- Djelovat ćete kao tehnički partner vodećim pružateljima modela
- Koordinirat ćete lansiranja proizvoda prvog dana i tajna lansiranja
- Surađivat ćete s timovima za izlazak na tržište, razvoj poslovanja i pravnim timovima radi uključivanja pružatelja
- Proširit ćete mogućnosti platforme na izvođenje slika, videa, zvuka, ugradnji, rada u stvarnom vremenu i paketnog izvođenja
- Bit ćete odgovorni za programe evaluacije i kvalitetu izvođenja
- Rezultate testova i telemetriju iz produkcije koristit ćete za usmjeravanje odluka o rutiranju i pružanje povratnih informacija pružateljima
- Izvještavat ćete potpredsjedniku za inženjerstvo
Zahtjevi
- Najmanje četiri godine iskustva u upravljanju inženjerskim timovima
- Iskustvo u izgradnji ili širenju timova tijekom brzog rasta
- Dobro poznavanje distribuiranih sustava, dizajna API-ja i izvođenja LLM-ova
- Razumijevanje streaminga, pozivanja alata, predmemoriranja promptova, kvantizacije i kompromisa između propusnosti i latencije
- Razumijevanje razlika između API-ja pružatelja i usmjeravanja milijuna zahtjeva kroz heterogene krajnje točke
- Praktično iskustvo u programiranju i poznavanje alata za razvoj uz pomoć umjetne inteligencije
- Sposobnost vanjske suradnje s laboratorijima za razvoj modela i inženjerskim timovima
- Iskustvo u zapošljavanju i zadržavanju vrhunskih inženjera
- Dokazana inicijativa i jasna komunikacija
- Pragmatičan pristup radu u malim inženjerskim organizacijama
- Poželjno: iskustvo s pružateljem izvođenja, laboratorijem za razvoj modela, GPU oblakom ili s više LLM API-ja
- Poželjno: iskustvo s TypeScriptom, Cloudflare Workersima, Postgresom, ClickHouseom, GCP-om ili Vercelom
- Poželjno: iskustvo s evaluacijama, testiranjem performansi, usmjeravanjem ili sustavima raspodjele opterećenja
- Poželjno: iskustvo s multimodalnim API-jima ili izvođenjem u stvarnom vremenu i paketnim izvođenjem
- Poželjno: iskustvo s pregledima sigurnosti i usklađenosti dobavljača, uključujući NDA-ove, DPA-ove i SOC 2
- Poželjno: iskustvo u korištenju OpenRoutera ili izgradnji AI infrastrukture i pomoćnih projekata za alate namijenjene programerima
Pogodnosti
- Udio u vlasništvu
- Rad na daljinu