シニア Snowflake データエンジニア
Meltwater の分析、連携、レポート、AI アプリケーションを支える、拡張性の高い Snowflake データ基盤を構築します。 信頼性の高いパイプラインで Salesforce と AWS のデータをつなぎます。
仕事内容
- 拡張性の高い Snowflake データソリューションを設計、保守します。
- データベース、スキーマ、テーブル、ビュー、セキュアビュー、ステージなどの Snowflake オブジェクトを作成します。
- SQL と Snowpark を使って本番環境対応の変換処理を開発します。
- Snowflake Streams、Tasks、Dynamic Tables、Snowpipe、増分処理、変更データキャプチャを実装します。
- クエリ、ウェアハウス、クラスタリング、ストレージ、コンピューティングの利用状況とプラットフォームコストを改善します。
- 安全なデータ共有とアクセス制御を設定します。
- 構造化データと半構造化データ向けに、堅牢な ETL/ELT パイプラインを構築します。
- バッチ、増分、準リアルタイム、イベント駆動型のデータ取り込みパイプラインを開発します。
- Salesforce、REST API、SaaS アプリケーション、AWS、データベース、ファイルからデータを接続します。
- 再利用可能なデータ取り込み・変換フレームワークを作成します。
- スキーマ変更、到着遅延データ、再試行、再生、照合、ソースからターゲットまでの完全性を管理します。
- 依存関係の処理と障害管理を備えたオーケストレーションワークフローを構築します。
- ディメンショナルモデル、ファクトテーブルとディメンションテーブル、データマート、整備済みデータセット、エンタープライズデータモデルを設計します。
- 一貫性のある中核的なビジネスエンティティと指標を定義します。
- 分析、レポート、業務アプリケーション、AI ワークロード向けのデータレイヤーを作成します。
- Salesforce のデータ取り込みと、Snowflake への増分または CDC 同期パイプラインを開発します。
- S3、Lambda、SQS、SNS、EventBridge などのサービスを使って AWS データパイプラインを構築します。
- ステージング、アーカイブ、IAM、暗号化、シークレット、アクセス制御を含むデータ転送とファイル取り込みの安全性を確保します。
- データ品質チェック、テスト、監視、ログ記録、指標、アラート、運用ダッシュボードを自動化します。
- 本番環境のデータインシデントを調査して解決し、上流と下流への影響を追跡します。
- 読みやすく、再利用・テストが可能で、保守しやすいコードを記述します。
- アーキテクチャレビューとコードレビューに参加します。
- 技術文書、データマッピング、運用手順書を管理します。
- CI/CD と自動デプロイの実践に貢献します。
- データエンジニアを指導し、エンジニアリング標準の策定を支援します。
応募要件
- データエンジニアリングの実務経験が5年以上あること。
- Snowflake の実務経験が3年以上あること。
- 複雑な変換処理やクエリ最適化を含む、高度な SQL スキル。
- データ処理、自動化、API 連携に活用できる高い Python スキル。
- 本番環境向け ETL/ELT パイプラインの構築経験。
- Snowflake と AWS の連携経験。
- Salesforce または同等のエンタープライズ SaaS プラットフォームからのデータ取り込み経験。
- ディメンショナルモデリングと最新のデータアーキテクチャに関する深い理解。
- 増分処理、CDC、データ照合の経験。
- データ品質および監視フレームワークの実装経験。
- Git、CI/CD、ソフトウェアエンジニアリングのベストプラクティスの経験。
- Snowpark の使用経験。
- Snowflake Cortex の使用経験。
- Streams、Tasks、Dynamic Tables、Snowpipe、安全なデータ共有の経験。
- Salesforce Bulk API、CDC、Platform Events の経験。
- AWS Lambda、S3、SQS、SNS、EventBridge、Glue の経験。
- dbt または同様の変換フレームワークの経験。
- Airflow、Dagster、Prefect または同様のオーケストレーションプラットフォームの経験。
- Terraform または Infrastructure as Code の経験。
- Snowflake を使った AI/ML および RAG ワークロードのサポート経験。
- Snowflake 認定資格があれば尚可。
福利厚生
- 柔軟に取得できる有給休暇。
- 充実した健康保険。
- メンタルヘルス、法律、家計、ウェルネス、行動面のニーズを支援する従業員支援プログラム。
- 従業員とその大切な人が利用できる CalmApp の無料サブスクリプション。
- ハイブリッド勤務制度。
- 勤続年数に応じて増える家族休暇。
- インクルーシブなコミュニティ。
- 継続的な専門能力開発の機会。
