엔지니어링 매니저, 프로바이더 생태계 — OpenRouter(원격)
OpenRouter의 프로바이더 생태계 엔지니어링 팀과 외부 프로바이더 파트너십을 이끕니다. 엔터프라이즈 LLM 액세스를 위한 통합, 라우팅, 평가 및 멀티모달 추론 기능을 총괄합니다.
설명
- 프로바이더 생태계 엔지니어링 팀을 이끌고 확장
- 엔지니어를 채용하고, 로드맵을 수립하며, 코드를 검토하고, 인시던트를 관리하고, 팀을 대표
- 프로바이더 어댑터, 엔드포인트 수명 주기 및 라우팅 시스템을 담당
- 주요 모델 프로바이더의 기술 파트너 역할 수행
- 첫날 출시와 스텔스 제품 출시 조율
- 시장 진출, 사업 개발 및 법무 팀과 협력하여 프로바이더 온보딩
- 이미지, 비디오, 오디오, 임베딩, 실시간 추론 및 배치 추론 전반으로 플랫폼 기능 확장
- 평가 프로그램과 추론 품질 담당
- 벤치마크 결과와 프로덕션 텔레메트리를 활용해 라우팅 결정을 내리고 프로바이더에 피드백 제공
- 엔지니어링 부사장에게 보고
지원 자격
- 엔지니어링 관리 경력 4년 이상
- 빠른 성장 과정에서 팀을 구축하거나 확장한 경험
- 분산 시스템, API 설계 및 LLM 추론에 대한 높은 이해도
- 스트리밍, 툴 호출, 프롬프트 캐싱, 양자화, 처리량과 지연 시간 간의 상충 관계에 대한 이해
- 프로바이더별 API 차이와 서로 다른 엔드포인트 간 수백만 건의 요청을 라우팅하는 방식에 대한 이해
- 실무 프로그래밍 경험과 AI 지원 개발 도구에 대한 친숙도
- 모델 연구소 및 엔지니어링 팀과 외부 협업할 수 있는 능력
- 고성과 엔지니어를 채용하고 유지한 경험
- 주도성과 명확한 커뮤니케이션 능력
- 린 엔지니어링 조직에서 실용적으로 일하는 접근 방식
- 우대: 추론 프로바이더, 모델 연구소, GPU 클라우드 또는 여러 LLM API 관련 경험
- 우대: TypeScript, Cloudflare Workers, Postgres, ClickHouse, GCP 또는 Vercel 관련 경험
- 우대: 평가, 벤치마킹, 라우팅 또는 로드 밸런싱 시스템 관련 경험
- 우대: 멀티모달 API 또는 실시간 및 배치 추론 관련 경험
- 우대: NDA, DPA 및 SOC 2를 포함한 공급업체 보안 및 규정 준수 검토 경험
- 우대: OpenRouter 사용 경험 또는 AI 인프라와 개발자 도구 사이드 프로젝트 구축 경험
복리후생
- 주식 참여
- 원격 근무