OpenRouter е платформа за изкуствен интелект, която предоставя на разработчици и екипи единен начин за достъп и работа с големи езикови модели от различни доставчици. Каталогът ѝ от модели включва опции като Mistral Small 3 и DeepSeek R1 Distill Qwen 32B, които поддържат приложения, ориентирани към бързина, точност и гъвкав избор на модел. OpenRouter предлага и инструменти за програмиране и създаване на игри, с потенциални приложения в области като маркетинг, финанси и образование.
Мениджър инженеринг на екосистемата от доставчици — OpenRouter (дистанционна работа)
Ще ръководите инженерния екип на OpenRouter за екосистемата от доставчици и партньорствата с външни доставчици. Ще отговаряте за интеграциите, маршрутизирането, оценяването и мултимодалните възможности за инференция за корпоративен достъп до LLM.
Съединени щати245 000 $ – 295 000 $ / година
ДистанционноПълен работен денСредно нивоСтаршиЗадължителен Език: английскиМениджър инженерингОписание
- Ще ръководите и разширявате инженерния екип за екосистемата от доставчици
- Ще наемате инженери, ще определяте пътната карта, ще преглеждате код, ще управлявате инциденти и ще представлявате екипа
- Ще отговаряте за адаптерите на доставчиците, жизнения цикъл на крайните точки и системите за маршрутизация
- Ще бъдете техническият партньор на водещи доставчици на модели
- Ще координирате продуктови пускания в ден нула и поверителни пускания
- Ще си партнирате с екипите по пазарна реализация, развитие на бизнеса и правния екип за включване на доставчици
- Ще разширявате възможностите на платформата за изображения, видео, аудио, embeddings, работа в реално време и пакетна инференция
- Ще отговаряте за програмите за оценяване и качеството на инференцията
- Ще използвате резултатите от бенчмаркове и производствената телеметрия, за да насочвате решенията за маршрутизация и да предоставяте обратна връзка на доставчиците
- Ще се отчитате пред вицепрезидента по инженеринг
Изисквания
- Най-малко четири години опит в управлението на инженерни екипи
- Опит в изграждането или разрастването на екипи по време на бърз растеж
- Задълбочени познания по разпределени системи, проектиране на API и инференция на LLM
- Разбиране на стрийминг, извикване на инструменти, кеширане на подсказки, квантизация и компромисите между пропускателна способност и латентност
- Разбиране на разликите между API на доставчиците и маршрутизирането на милиони заявки през хетерогенни крайни точки
- Практически опит с програмиране и познаване на инструменти за разработка с помощта на AI
- Умение за външно сътрудничество с лаборатории за модели и инженерни екипи
- Опит в наемането и задържането на високоефективни инженери
- Доказана инициативност и ясна комуникация
- Прагматичен подход към работа в малки инженерни организации
- Предимство: опит с доставчик на инференция, лаборатория за модели, GPU облак или множество LLM API
- Предимство: опит с TypeScript, Cloudflare Workers, Postgres, ClickHouse, GCP или Vercel
- Предимство: опит с оценки, бенчмаркинг, маршрутизация или системи за балансиране на натоварването
- Предимство: опит с мултимодални API или инференция в реално време и пакетна инференция
- Предимство: опит с проверки за сигурност и съответствие на доставчици, включително NDA, DPA и SOC 2
- Предимство: опит с използването на OpenRouter или с изграждането на AI инфраструктура и странични проекти за инструменти за разработчици
Придобивки
- Участие в капитала
- Дистанционна работа