
シニア Databricks データエンジニア、バイスプレジデント — State Street(クインシー、ハイブリッド勤務)
State Street の金融サービスプラットフォーム向けに、Azure と Databricks のデータパイプラインを構築します。 アジャイルチームの一員として、ETL、データ品質、高スループットのフレームワークを開発します。
仕事内容
- Azure と Cosmos DB を使用し、ストリーミング、イベント駆動、バッチ取り込みに対応するエンドツーエンドのクラウドデータパイプラインを構築・テストします。
- データレイクへの取り込み、変換、ロードを行う ETL プロセスを作成します。
- エンジニアリング業務で Databricks とデータウェアハウスの概念を活用します。
- 高スループットを想定した設定可能なフレームワークとライブラリを作成します。
- 協力し、ステークホルダーに働きかけ、概念実証を提示して変革を推進します。
- 設計とコーディングから統合テスト、デプロイ、文書作成まで、ソフトウェア開発ライフサイクル全体に携わります。
- アジャイルプロジェクトチームの同僚と協力します。
- 確立されたエンジニアリング手法とコーディング規約を適用します。
- データパイプラインを監視し、問題を調査して解決します。
- データの正確性を保つため、データ品質チェックと検証を追加します。
- データを分析し、データセットを調査します。
- 専門スキルの向上を続けます。
応募要件
- コンピューターサイエンス、情報技術、または関連分野の学士号。
- ビッグデータパイプラインの経験が10年以上。
- Databricks の実務経験が5年以上。
- Azure サービス、Azure DevOps、Kubernetes、Docker を含むクラウドプラットフォームでの開発経験が5年以上。
- マイクロサービスアーキテクチャとクラウドコンピューティングの経験。Azure の経験が望ましい。
- Databricks、Delta Lake、Apache Spark を業務で使いこなせること。
- Databricks SQL と Scala の開発実務経験。
- クラスターやジョブなど、Databricks リソースに関する深い理解。
- ADO や Harness を含む DevOps パイプラインのトラブルシューティングにおける豊富な実務経験。
- Git などのバージョン管理ツールの使用経験。
- Avro、JSON、XML などの半構造化形式を扱った経験。
- シェルスクリプト、UNIX、TOAD、SQL Developer の基本的な知識。
- 文書および口頭での優れたビジネスコミュニケーション能力。
- 金融サービス業界での経験。
- アジャイル開発手法の経験。
- Snowflake の経験があれば尚可。
福利厚生
- 会社のマッチング拠出がある 401(k) 退職貯蓄プラン。
- 基本生命保険、医療、歯科、眼科、長期障害保険などの保険オプション。その他の任意補償も選択可能です。
- 休暇、病気休暇、短期障害休暇、家族の介護に関する休暇を含む有給休暇。
- 従業員支援プログラム。
- 年間業績に基づくインセンティブ賞与の対象となる場合があります。
- 一部の税制優遇貯蓄プランの対象となる場合があります。
- 誰もが参加できる専門能力開発の機会。
- 仕事と生活の柔軟な両立を支援。
- ボランティア活動のための有給休暇。
- 従業員ネットワーク。



