Baseten
Baseten
Basetenは、機械学習やAIアプリケーションを導入する企業向けに、モデル推論インフラストラクチャを提供しています。同社のプラットフォームは、高スループットの推論、迅速なデプロイ、自動スケーリング、安全なエンタープライズ向けモデルサービング、オープンソースモデルのパッケージ化への対応を組み合わせ、迅速でスケーラブルなサービングを実現します。Basetenは、エンジニアリングチームや機械学習チームがモデルインフラストラクチャの運用上の課題に対応できるよう支援し、業務領域に特化したモデルの開発に集中できる環境を提供します。同社は人工知能、SaaS、エンタープライズテクノロジーの分野で事業を展開しており、従業員数は11~50人です。

ソフトウェアエンジニア、LLM推論プラットフォーム - Baseten ハイブリッド勤務

AI企業向けに、Basetenの分散型LLM推論プラットフォームを構築します。Kubernetesオーケストレーション、モデルAPI、ルーティング、オートスケーリング、本番環境の可観測性を幅広く担当します。

仕事内容

  • 大規模な分散型LLM推論のインフラストラクチャとオーケストレーションを構築し、ルーティング、オートスケーリング、スケジューリング、ランタイム管理を担当します。
  • 構造化出力、ツールおよび関数呼び出し、マルチモーダルサービングに対応するModel APIを開発・運用します。
  • APIのバージョン管理、リクエスト検証、利用量計測、クォータ、認証を実装します。
  • メトリクス、トレース、ログの計装を構築し、速度、信頼性、品質を評価する再現可能なベンチマークを整備します。
  • テスト、リリース自動化、オペレーショナルエクセレンスのための強固なプラクティスを策定します。
  • Kubernetes、分散ランタイム、ネットワーク、GPUワークロードにまたがる本番システムを診断し、強化します。
  • Inference Performanceエンジニアやパートナーチームと協力し、顧客向けの最適化を提供します。
  • アーキテクチャとデプロイから監視、顧客フィードバックに基づく改善まで、プロジェクトをリードします。
  • システム性能、信頼性、運用のシンプルさ、開発者体験のバランスを取ります。

応募要件

  • コンピューターサイエンス、工学、または関連分野の学士号、修士号、博士号、または同等の実務経験。
  • 信頼性、レイテンシー、スケールが重要となる分散システム、バックエンドインフラストラクチャ、大規模APIの構築・運用経験3年以上。
  • レート制限、認証、クォータ、利用量計測、移行を含む低レイテンシーで堅牢なバックエンドサービスを担当した実績。
  • プロファイリング、トレーシング、キャパシティプランニング、SLO管理を含む、優れたインフラストラクチャに関する判断力。
  • アプリケーション、ランタイム、インフラストラクチャの各層にまたがる性能と信頼性の問題を診断できる能力。
  • 開発者体験を重視する姿勢。
  • 新しい言語、フレームワーク、システムを学ぶ意欲があり、推論エンジニアリングに関心があること。
  • 明確な設計文書の作成や効果的な部門横断型の協働を含む、優れた文章力とコラボレーション能力。
  • vLLM、SGLang、TensorRT-LLM、TGI、DynamoなどのLLM推論エンジンまたはフレームワークの経験、または貢献経験があれば尚可。
  • Operatorやカスタムリソースを含む、深いKubernetesの経験。サービスメッシュまたはAPIゲートウェイの知識があれば尚可。
  • 分散スケジューリング、オートスケーリング、サービスオーケストレーションの経験があれば尚可。
  • 本番環境でGPUワークロードを運用した経験があれば尚可。
  • 開発者向けインフラストラクチャまたはAPIの経験、あるいはオープンソースのインフラストラクチャまたは機械学習システムへの貢献経験があれば尚可。
  • 可観測性ツール、CI/CDシステム、リリース自動化に関する知識があれば尚可。

福利厚生

  • 競争力のある報酬と意義のあるエクイティ。
  • 米国の従業員と扶養家族を対象に、医療、歯科、眼科保険を全額適用。
  • 全社一斉の冬季休暇を含む、柔軟な有給休暇。
  • 有給の育児休暇。
  • Carrotの手当を通じた妊活・家族形成支援。
  • 米国の従業員向けに、会社が手配する401(k)プラン。
  • さまざまな機械学習スタートアップに触れられ、学習と専門的なネットワーク形成の大きな機会。

関連求人

SQUAD

フロントエンドエンジニア(Svelte、ウクライナ国内リモート)

SQUAD
501 – 1,000 従業員
B2Bハードウェア人工知能

SQUADの機械学習データアノテーションプラットフォーム向けに、高速なSvelteインターフェースを構築します。 API連携、アプリケーションの状態管理、キャンバス操作、フロントエンドアーキテクチャを担当します。

開く
Antares Capital LP

UX/UI開発担当アシスタント・バイスプレジデント

Antares Capital LP

Antares Capitalの投資サービス向けに、アクセシブルなエンタープライズアプリケーションを設計・構築します。 ユーザー調査、迅速なプロトタイピング、React開発、全社的なデザインシステムを主導します。

開く
General Dynamics Information Technology

シニア AWS テクニカルリード(Java・Angular)

General Dynamics Information Technology

分散型アジャイルチームを率い、General Dynamics Information Technology 向けに AWS 上で稼働する Java・Angular アプリケーションを構築します。実装、アーキテクチャ、クラウド運用、技術指導を担います。

開く
Commit

シニア React エンジニア(Next.js)

Commit

急成長中のフィンテックスタートアップで、Next.js の中核的なフロントエンド体験の開発をリードします。 数百万人のユーザーに向け、アクセシブルで拡張性の高いインターフェースを構築します。

開く
Tether.to

Tether.to フロントエンド・デスクトップエンジニア(リモート)

Tether.to

React と Pear を使い、Tether.to のクロスプラットフォーム型 P2P 通信アプリ Keet を開発します。 世界中のユーザーに向けて、分散型デスクトップソフトウェアを改善します。

開く
slice

リモート Web ソフトウェア開発者(React、TypeScript)

slice

個人経営のピザ店を支える Slice のプラットフォーム向けに、React と TypeScript を使った Web 製品を開発します。 本番環境の問題を調査・解決し、フロントエンドのアーキテクチャやテストの設計にも携わります。

開く
Tether.to

フロントエンドデスクトップエンジニア

Tether.to

フロントエンドデスクトップエンジニアとして、Tetherのクロスプラットフォーム型P2P通信アプリKeetを開発します。 Reactでインターフェースを構築し、分散型通信製品のパフォーマンスを改善します。

開く
Xayn

Xayn フロントエンドウェブ開発者(スウェーデン・ハイブリッド勤務)

Xayn
11 – 50 従業員
SaaS人工知能法律

欧州の主権型リーガルAI「Noxtua」の、高速でアクセシブルな多言語マーケティングサイトを構築します。 再利用可能なコンポーネントや連携機能を開発し、コンバージョンにつながるウェブ体験を実現します。

開く
Commit

シニアReactエンジニア(Next.js)

Commit

金融市場向けサービスを提供するフィンテックスタートアップで、高性能なNext.jsインターフェースを構築します。主要なフロントエンド体験を担当し、数百万人のユーザーに向けたプロダクトの拡大を支えます。

開く