OpenRouter è una piattaforma di intelligenza artificiale che offre a sviluppatori e team un modo unificato per accedere a modelli linguistici di grandi dimensioni di diversi fornitori e lavorare con essi. Il suo catalogo di modelli include opzioni come Mistral Small 3 e DeepSeek R1 Distill Qwen 32B, a supporto di applicazioni che privilegiano velocità, accuratezza e flessibilità nella scelta del modello. OpenRouter offre inoltre strumenti per la programmazione e il gaming, con possibili applicazioni in ambiti come marketing, finanza e istruzione.
Responsabile Engineering, Ecosistema dei Provider — OpenRouter (Da remoto)
Guida il team di engineering dell’Ecosistema dei Provider di OpenRouter e le partnership con provider esterni. Gestisci integrazioni, instradamento, valutazioni e funzionalità di inferenza multimodale per l’accesso aziendale agli LLM.
Stati Uniti245.000 $ – 295.000 $ / anno
Da remotoTempo pienoIntermedioSeniorLingua Richiesta: ingleseResponsabile ingegneriaDescrizione
- Guidare e ampliare il team di engineering dell’Ecosistema dei Provider
- Assumere ingegneri, definire la roadmap, revisionare il codice, gestire gli incidenti e rappresentare il team
- Gestire gli adattatori dei provider, i cicli di vita degli endpoint e i sistemi di instradamento
- Agire come controparte tecnica per i principali provider di modelli
- Coordinare lanci dal giorno zero e lanci riservati
- Collaborare con i team go-to-market, sviluppo commerciale e legale per integrare i provider
- Estendere le funzionalità della piattaforma all’inferenza di immagini, video, audio, embeddings, in tempo reale e batch
- Gestire i programmi di valutazione e la qualità dell’inferenza
- Utilizzare i risultati dei benchmark e la telemetria di produzione per orientare le decisioni di instradamento e fornire feedback ai provider
- Riportare al vicepresidente dell’Engineering
Requisiti
- Almeno quattro anni di esperienza nella gestione dell’engineering
- Esperienza nella creazione o nella crescita di team durante una rapida espansione
- Solida conoscenza di sistemi distribuiti, progettazione di API e inferenza di LLM
- Comprensione di streaming, chiamate agli strumenti, caching dei prompt, quantizzazione e compromessi tra throughput e latenza
- Comprensione delle differenze tra le API dei provider e dell’instradamento di milioni di richieste tra endpoint eterogenei
- Esperienza pratica di programmazione e familiarità con strumenti di sviluppo assistito dall’IA
- Capacità di collaborare esternamente con laboratori di modelli e team di engineering
- Esperienza nel reclutamento e nella fidelizzazione di ingegneri altamente performanti
- Iniziativa dimostrata e comunicazione chiara
- Approccio pragmatico al lavoro in organizzazioni di engineering snelle
- Preferibile: esperienza con un provider di inferenza, un laboratorio di modelli, un cloud GPU o più API di LLM
- Preferibile: esperienza con TypeScript, Cloudflare Workers, Postgres, ClickHouse, GCP o Vercel
- Preferibile: esperienza con valutazioni, benchmarking, instradamento o sistemi di bilanciamento del carico
- Preferibile: esperienza con API multimodali o inferenza in tempo reale e batch
- Preferibile: esperienza nelle verifiche di sicurezza e conformità dei fornitori, inclusi NDA, DPA e SOC 2
- Preferibile: esperienza nell’utilizzo di OpenRouter o nella creazione di progetti personali di infrastruttura IA e strumenti per sviluppatori
Benefit
- Partecipazione azionaria
- Lavoro da remoto