
AI MLOps・LLMOpsエンジニア
多言語 NLP と LLM の機能を本番 AI システムで運用可能にします。 AWS データパイプライン、ハイブリッド検索、モデルデプロイワークフロー、大規模な文書処理ソリューションを構築します。
仕事内容
- 文書分類、エンティティ抽出、非識別化、LLM ベースのトレンド検出の推論パイプラインを統合・改善する。
- AWS EKS 上で稼働する Airflow DAG を通じて、データサイエンスモジュールをエンドツーエンドの本番ワークフローに接続する。
- GTE の多言語密ベクトル埋め込みと Aurora PostgreSQL の GIN 字句インデックスを使用して、ハイブリッド検索を開発・最適化する。
- 多言語クエリ拡張と LLM を活用したトレンド検出のため、OpenAI ベースの API プラットフォームを統合する。
- S3 と DataLake システムに保存されたネストされた JSON、メール添付ファイル、埋め込み PDF を処理する前処理パイプラインを設計・維持する。
- 300 GB に及ぶ請求メモと文書の多言語非構造化テキストを処理する。
- 埋め込みと検索ワークフローのためのチャンク分割手法とメタデータ抽出プロセスを開発する。
- 月次のエンティティ更新、トレンド検出、非識別化バッチ処理向けの Airflow DAG を作成・維持する。
- AWS S3、Athena、Glue、Fargate、SQS、Step Functions 間のデータ移動をオーケストレーションする。
- 500,000 件を超える請求案件と数億のテキストチャンクに対応できるよう処理システムをスケールする。
- MLflow と Databricks を使用して機械学習モデルをデプロイし、バージョン管理する。
- Aurora PostgreSQL 上の Liquibase を使用してスキーマ変更とデータベース移行を管理する。
- 本番パイプラインにロギング、監視、検索品質評価スコアリングを追加する。
応募要件
- コンピュータサイエンス、情報技術、データサイエンス、人工知能、統計学、数学、または関連分野の学士号。
- データサイエンス、AI/ML、コンピュータサイエンス、分析学の修士号があれば尚可。ただし必須ではない。
- クラウドまたはデータエンジニアリングの認定資格があれば尚可。
- 主要言語として Python と SQL を十分に扱えること。
- LLM API の統合、多言語埋め込み、ハイブリッド検索、テキスト分類、エンティティ抽出、固有表現認識、個人情報マスキングの経験。
- Apache Airflow、バッチオーケストレーション、大規模非構造化データ処理の経験。
- S3、Athena、Glue、Fargate、EKS、SQS、Step Functions などの AWS サービスを実務で使用した経験。
- PostgreSQL または Aurora、pgvector、GIN インデックス、全文検索に関する知識。
- MLflow と Databricks または Azure Databricks の使用経験。
- GitHub ベースの開発、CI/CD、スキーマ管理、本番サポートの経験。









