OpenRouter este o platformă de inteligență artificială care le oferă dezvoltatorilor și echipelor o modalitate unificată de a accesa și utiliza modele lingvistice de mari dimensiuni de la furnizori diferiți. Catalogul său de modele include opțiuni precum Mistral Small 3 și DeepSeek R1 Distill Qwen 32B, susținând aplicații care pun accent pe viteză, acuratețe și flexibilitate în alegerea modelului. OpenRouter oferă, de asemenea, instrumente pentru programare și jocuri, cu posibile aplicații în domenii precum marketing, finanțe și educație.
Manager de inginerie, Ecosistemul furnizorilor — OpenRouter (la distanță)
Conduceți echipa de inginerie pentru Ecosistemul furnizorilor OpenRouter și parteneriatele cu furnizori externi. Coordonați integrările, rutarea, evaluările și capabilitățile de inferență multimodală pentru accesul enterprise la modele lingvistice de mari dimensiuni.
Descriere
- Conduceți și extindeți echipa de inginerie pentru Ecosistemul furnizorilor
- Recrutați ingineri, definiți planul de dezvoltare, revizuiți codul, gestionați incidentele și reprezentați echipa
- Asumați-vă adaptoarele furnizorilor, ciclurile de viață ale endpointurilor și sistemele de rutare
- Fiți partenerul tehnic pentru principalii furnizori de modele
- Coordonați lansările de produse din prima zi și lansările secrete
- Colaborați cu echipele de go-to-market, dezvoltare a afacerii și juridice pentru integrarea furnizorilor
- Extindeți capabilitățile platformei pentru inferență de imagini, video, audio, embeddings, în timp real și în loturi
- Asumați-vă programele de evaluare și calitatea inferenței
- Folosiți rezultatele benchmarkurilor și telemetria din producție pentru a ghida deciziile de rutare și a oferi feedback furnizorilor
- Raportați Vicepreședintelui pentru inginerie
Cerințe
- Cel puțin patru ani de experiență în managementul ingineriei
- Experiență în construirea sau extinderea echipelor în perioade de creștere rapidă
- Cunoștințe solide de sisteme distribuite, proiectarea API-urilor și inferența LLM
- Înțelegerea streamingului, apelurilor de instrumente, stocării în cache a prompturilor, cuantizării și compromisurilor dintre debit și latență
- Înțelegerea diferențelor dintre API-urile furnizorilor și rutarea a milioane de solicitări prin endpointuri eterogene
- Experiență practică de programare și familiaritate cu instrumentele de dezvoltare asistate de inteligență artificială
- Capacitatea de a colabora extern cu laboratoare de modele și echipe de inginerie
- Experiență în recrutarea și păstrarea inginerilor cu performanțe ridicate
- Inițiativă demonstrată și comunicare clară
- Abordare pragmatică pentru lucrul în organizații de inginerie cu structuri suple
- Preferabil: experiență cu un furnizor de inferență, un laborator de modele, un cloud GPU sau mai multe API-uri LLM
- Preferabil: experiență cu TypeScript, Cloudflare Workers, Postgres, ClickHouse, GCP sau Vercel
- Preferabil: experiență cu evaluări, benchmarking, rutare sau sisteme de echilibrare a încărcării
- Preferabil: experiență cu API-uri multimodale sau inferență în timp real și în loturi
- Preferabil: experiență cu evaluări de securitate și conformitate pentru furnizori, inclusiv NDA-uri, DPA-uri și SOC 2
- Preferabil: experiență în utilizarea OpenRouter sau în construirea de infrastructură AI și proiecte secundare de instrumente pentru dezvoltatori
Beneficii
- Participare la capitalul companiei
- Lucru la distanță