エンジニアリングマネージャー、プロバイダーエコシステム — OpenRouter（リモート）
OpenRouter のプロバイダーエコシステムエンジニアリングチームを率い、外部プロバイダーとのパートナーシップを担当します。 エンタープライズ向け LLM アクセスの統合、ルーティング、評価、マルチモーダル推論機能を統括します。
仕事内容
- プロバイダーエコシステムエンジニアリングチームを率いて拡大する
- エンジニアの採用、ロードマップの策定、コードレビュー、インシデント管理、チームの代表を担う
- プロバイダーアダプター、エンドポイントのライフサイクル、ルーティングシステムを統括する
- 主要モデルプロバイダーに対する技術面の窓口となる
- 初日リリースやステルス状態でのプロダクトローンチを調整する
- 市場開拓、事業開発、法務の各チームと連携してプロバイダーをオンボーディングする
- 画像、動画、音声、埋め込み、リアルタイム推論、バッチ推論にわたってプラットフォーム機能を拡張する
- 評価プログラムと推論品質を統括する
- ベンチマーク結果と本番テレメトリを使ってルーティングの意思決定を導き、プロバイダーにフィードバックを提供する
- エンジニアリング担当副社長にレポートする
応募要件
- 4年以上のエンジニアリングマネジメント経験
- 急速な成長に合わせてチームを構築または拡大した経験
- 分散システム、API設計、LLM推論に関する深い知識
- ストリーミング、ツール呼び出し、プロンプトキャッシュ、量子化、スループットとレイテンシのトレードオフに関する理解
- プロバイダーごとのAPIの違いと、異種エンドポイント間で数百万件のリクエストをルーティングする方法に関する理解
- 実務でのプログラミング経験と、AI支援開発ツールへの習熟
- モデルラボやエンジニアリングチームと社外で協業する能力
- 優秀なエンジニアを採用し、定着させた経験
- 主体性と明確なコミュニケーション能力
- 少人数のエンジニアリング組織で実務的に働く姿勢
- 歓迎：推論プロバイダー、モデルラボ、GPUクラウド、または複数のLLM APIに関する経験
- 歓迎：TypeScript、Cloudflare Workers、Postgres、ClickHouse、GCP、またはVercelに関する経験
- 歓迎：評価、ベンチマーク、ルーティング、または負荷分散システムに関する経験
- 歓迎：マルチモーダルAPI、またはリアルタイム推論とバッチ推論に関する経験
- 歓迎：NDA、DPA、SOC 2を含むベンダーのセキュリティおよびコンプライアンス審査に関する経験
- 歓迎：OpenRouterの利用経験、またはAIインフラストラクチャや開発者ツールの個人プロジェクトを構築した経験
福利厚生
- 株式参加
- リモート勤務