
基盤モデルデータエンジニア
Sciforium のマルチモーダル AI モデル向けに、ペタバイト規模の事前学習・事後学習データセットを構築します。 言語、画像、動画の学習に使う高性能データパイプラインを開発します。
仕事内容
- 大規模言語モデルの事前学習データセットを一貫して構築する。
- ウェブ、コード、書籍、技術論文のデータを選定・調整し、下流モデルの性能を高める。
- ペタバイト規模の非構造化データをクリーニング、重複排除し、シグナルを抽出するパイプラインを構築する。
- 教師ありファインチューニング用の指示データ、複数ターンの対話、RLHF/DPO の選好データなど、事後学習データセットの開発を主導する。
- 画像・動画データの取得と処理を統括する。
- マルチプロセスとマルチスレッドを活用し、高スループットの Python データ処理スクリプトを作成する。
- 学習コーパスを統計的に分析し、バイアス、知識の不足、品質の低下を特定する。
- 自然に収集されたデータセットの不足を補う合成データパイプラインを構築する。
- マルチモーダルのアラインメント、動画圧縮、時間的一貫性に関する課題に取り組む。
応募要件
- データサイエンスまたは機械学習分野で、業界経験が5年以上あること。
- 基盤モデル向けデータセットの構築・管理経験を有すること。
- マルチプロセス、マルチスレッド、効率的なメモリ管理を含む高度な Python スキル。
- 本番環境の大規模言語モデルまたは大規模画像モデル向けに、ペタバイト規模のデータセットを扱った経験。
- 生のウェブクロールデータや専門分野のデータを使い、大規模 LLM 学習データセットをゼロから作成した経験。
- RLHF、DPO、複数ターンの指示追従向けデータセットを構築した実務経験。
- 人手によるラベリングのワークフローと、高品質なゴールドスタンダードデータセットを管理した経験。
- 大規模データ向けの Spark、Ray、WebDataset、Parquet、または同等のフレームワークや形式に精通していること。
- 大規模な画像または動画データセットをゼロから構築した経験があれば尚可。
- マルチモーダルクローリング、動画処理、コーデック、圧縮に関する知識があれば尚可。
- 推論、コーディング、数学のベンチマーク用に複雑なラベリングスキーマを設計した経験があれば尚可。
- データ中心型 AI または情報検索に重点を置く定量分野の修士号または博士号があれば尚可。
- 米国で就労する法的資格を有すること。
福利厚生
- 医療、歯科、眼科の各保険。
- 401(k) プラン。
- 昼食、軽食、飲料を毎日提供。
- 柔軟な休暇制度。
- 競争力のある給与。
- 株式報酬。
関連求人


シニア/スタッフ・バックエンドエンジニア、プラットフォームおよびデータ取り込み
Verana HealthVerana Healthで、臨床データ取り込み、OCR、OpenSearch、腫瘍学プラットフォームのサービスを構築・拡張します。 API、ETLパイプライン、マイクロサービスを設計し、実臨床データに基づく医療の知見を支えます。
開く

シニアデータプラットフォームエンジニアリングマネージャー
Berkshire Hathaway Homestate Companies - Workers Compensation Division保険会社の全社データプラットフォーム、エンジニアリングチーム、運用を統括します。Azure、SQL、NoSQL、分析基盤を対象に、信頼性、自動化、コンプライアンス、プラットフォーム戦略を担います。
開く

シニアデータプラットフォームエンジニアリングマネージャー
Berkshire Hathaway Homestate Companies - Workers Compensation DivisionBerkshire Hathaway Homestate Companies の保険業務を支えるデータプラットフォームエンジニアリングチームを率います。 データベースと分析プラットフォーム、クラウドインフラ、自動化、信頼性、チーム管理を担当します。
開く

