OpenRouter adalah platform kecerdasan buatan yang menyediakan cara terpadu bagi pengembang dan tim untuk mengakses serta menggunakan model bahasa besar dari berbagai penyedia. Katalog modelnya mencakup pilihan seperti Mistral Small 3 dan DeepSeek R1 Distill Qwen 32B, yang mendukung aplikasi yang mengutamakan kecepatan, akurasi, dan fleksibilitas dalam memilih model. OpenRouter juga menawarkan berbagai alat untuk pemrograman dan permainan, dengan potensi penerapan di bidang seperti pemasaran, keuangan, dan pendidikan.
Manajer Teknik, Ekosistem Penyedia — OpenRouter (Jarak Jauh)
Memimpin tim teknik Ekosistem Penyedia OpenRouter dan kemitraan dengan penyedia eksternal. Mengelola integrasi, perutean, evaluasi, serta kemampuan inferensi multimodal untuk akses LLM perusahaan.
Amerika Serikat$245.000 – $295.000 / tahun
Jarak jauhPenuh waktuMenengahSeniorBahasa Wajib: InggrisManajer teknikDeskripsi
- Memimpin dan mengembangkan tim teknik Ekosistem Penyedia
- Merekrut engineer, menentukan roadmap, meninjau kode, menangani insiden, dan mewakili tim
- Mengelola adaptor penyedia, siklus hidup endpoint, dan sistem perutean
- Menjadi mitra teknis bagi penyedia model terkemuka
- Mengoordinasikan peluncuran produk sejak hari pertama dan peluncuran rahasia
- Berkolaborasi dengan tim go-to-market, pengembangan bisnis, dan hukum untuk menerima penyedia baru
- Memperluas kemampuan platform untuk inferensi gambar, video, audio, embedding, realtime, dan batch
- Mengelola program evaluasi dan kualitas inferensi
- Menggunakan hasil benchmark dan telemetri produksi untuk memandu keputusan perutean serta memberikan umpan balik kepada penyedia
- Melapor kepada Wakil Presiden Teknik
Persyaratan
- Setidaknya empat tahun pengalaman dalam manajemen teknik
- Pengalaman membangun atau mengembangkan tim selama pertumbuhan pesat
- Pengetahuan kuat tentang sistem terdistribusi, desain API, dan inferensi LLM
- Memahami streaming, pemanggilan alat, caching prompt, kuantisasi, serta kompromi antara throughput dan latensi
- Memahami perbedaan API penyedia dan perutean jutaan permintaan di berbagai endpoint yang heterogen
- Pengalaman pemrograman langsung dan familiar dengan alat pengembangan berbantuan AI
- Mampu berkolaborasi secara eksternal dengan laboratorium model dan tim teknik
- Pengalaman merekrut dan mempertahankan engineer berkinerja tinggi
- Memiliki inisiatif dan kemampuan komunikasi yang jelas
- Pendekatan pragmatis untuk bekerja dalam organisasi teknik yang ramping
- Diutamakan: pengalaman dengan penyedia inferensi, laboratorium model, cloud GPU, atau beberapa API LLM
- Diutamakan: pengalaman dengan TypeScript, Cloudflare Workers, Postgres, ClickHouse, GCP, atau Vercel
- Diutamakan: pengalaman dengan evaluasi, benchmarking, perutean, atau sistem penyeimbangan beban
- Diutamakan: pengalaman dengan API multimodal atau inferensi realtime dan batch
- Diutamakan: pengalaman dengan peninjauan keamanan dan kepatuhan vendor, termasuk NDA, DPA, dan SOC 2
- Diutamakan: pengalaman menggunakan OpenRouter atau membangun infrastruktur AI dan proyek sampingan terkait alat pengembang
Tunjangan
- Partisipasi ekuitas
- Kerja jarak jauh