Basetenは、機械学習やAIアプリケーションを導入する企業向けに、モデル推論インフラストラクチャを提供しています。同社のプラットフォームは、高スループットの推論、迅速なデプロイ、自動スケーリング、安全なエンタープライズ向けモデルサービング、オープンソースモデルのパッケージ化への対応を組み合わせ、迅速でスケーラブルなサービングを実現します。Basetenは、エンジニアリングチームや機械学習チームがモデルインフラストラクチャの運用上の課題に対応できるよう支援し、業務領域に特化したモデルの開発に集中できる環境を提供します。同社は人工知能、SaaS、エンタープライズテクノロジーの分野で事業を展開しており、従業員数は11～50人です。
Baseten GPU 推論パフォーマンスエンジニアリングマネージャー
AIインフラ企業 Baseten で、GPU 推論パフォーマンスエンジニアリングを率います。ランタイム最適化、モデル効率化、専門技術チームの成長を推進します。
仕事内容
- 定期的な一対一の面談、フィードバック、キャリア計画、業績評価を通じて、推論パフォーマンスエンジニアを管理・指導・育成する
- GPU エンジニアと推論エンジニアを採用し、協力的なチーム文化を育む
- ランタイムパフォーマンスのロードマップと実行を統括する
- 技術設計をレビューし、プロファイリングと最適化を指揮するとともに、エンジニアによる時間とメモリ使用量の評価を支援する
- 量子化、投機的デコーディング、KV キャッシュの再利用、チャンク化プリフィル、自動スケジューリングを本番環境に導入する
- パフォーマンス向上を、GPU 時間あたりのトークン数、使用率、レイテンシー、コストの測定可能な改善につなげる
- 新しいモデルアーキテクチャを新興ハードウェアで稼働させ、パフォーマンスを調整する
- インフラストラクチャ、推論プラットフォーム、カーネル、モデル API、顧客対応チームと協力し、優先順位を決め、リリースを調整し、改善を実現する
- 品質、ベンチマーク、オペレーショナルエクセレンス、インシデント対応に関するエンジニアリング標準を確立する
- エージェント型推論最適化、エージェント型カーネル、投機的デコーディングモデルのトレーニング、Baseten Inference Stack を発展させる
応募要件
- コンピューターサイエンス、工学、数学、または関連分野の学士号、修士号、博士号
- エンジニア採用、メンタリング、フィードバック、業績評価を含むマネジメント経験
- トレーニング、推論、レコメンデーションシステムのいずれかで、GPU 最適化チームを率いた、または密接に支援した経験
- GPU ワークロード、アーキテクチャ、パフォーマンス上のトレードオフに関する深い知識
- PyTorch、TensorRT、TensorRT-LLM などの機械学習ライブラリに精通していること
- ロードマップを策定し、チームで複雑な技術プロジェクトを遂行した実績
- チーム間のステークホルダーを調整するための、優れた文章力と口頭コミュニケーション能力
- vLLM、SGLang、TensorRT-LLM などの推論エンジンに精通していること
- 量子化、投機的デコーディング、連続バッチ処理などの LLM 最適化手法を適用した経験
- CUDA、Triton、CUTLASS を使用した GPU カーネルの開発または実務経験
- スタートアップの急速な成長期にエンジニアリングチームを拡大した経験
- マネジメント職に移る前に、パフォーマンスエンジニアまたはシステムエンジニアとして実務に携わった経験
福利厚生
- 競争力のある報酬パッケージと、意義のある株式報酬
- 米国の従業員には、本人と扶養家族を対象とした医療・歯科・眼科保険を完備
- 全社一斉の冬季休暇を含む、柔軟な有給休暇
- 有給の育児休暇
- Carrot を通じた不妊治療・家族形成支援
- 米国の従業員には、会社が手続きを支援する 401(k) プラン
- さまざまな機械学習スタートアップと協業し、業界とのつながりを築く機会
