ソフトウェアエンジニア III、データエンジニアリング - RELX、チェンナイ勤務
LexisNexis Risk Solutions向けにAzureとHPCCのデータパイプラインを構築します。リスク分析、レポート作成、業務データのニーズを支えるスケーラブルなプラットフォームを開発します。
仕事内容
- Azure Data Factory、Databricks、Azureストレージサービスを使用して、スケーラブルなETLおよびELTパイプラインを作成・維持する
- リレーショナルデータベース、API、ファイルベースのデータソースからAzureデータプラットフォームにデータをロードする
- ECLを使用してHPCC上でデータを変換し、Azure Databricksを通じてSpark SQLとPySparkを使用してAzure上でデータを変換する
- Azure Databricksのノートブックとジョブを開発、保守、改善する
- 大規模データセットを処理する効率的なSparkワークロードを構築する
- ECLを使用してHPCC上にデータモデルを作成し、Delta Lake、Parquet、その他の列指向形式でデータモデルを作成する
- ECL、SQL、Sparkのワークロードをチューニングし、性能とスケーラビリティを向上させる
- ビジネスアナリスト、データサイエンティスト、アプリケーションチームと連携し、データ要件を明確にしてエンジニアリングプラクティスを発展させる
- 信頼性、スケーラビリティ、安全性に優れたエンタープライズデータプラットフォームとパイプラインを開発・改善する
- 分析、レポート、業務上のユースケース向けにデータソリューションを提供する
応募要件
- SQLとデータ変換ロジックに関する確かな能力
- データウェアハウスの原則とETL/ELTパターンに関する実務知識
- Azure Databricks、Spark SQL、PySparkの実務経験
- Azure Data Factory、Azure Data Lake Storage Gen2、Azure SQLまたはSynapseの経験
- 大規模な構造化・半構造化データセットの取り扱い経験
- アジャイル開発プラクティスへの理解
- 建設的な姿勢と、新しいツールやプロセスを学ぶ意欲
- 要件定義・設計から実装、テスト、デプロイ、保守に至るソフトウェア開発ライフサイクルへの理解
- ソフトウェアエンジニアリングの原則、デザインパターン、開発のベストプラクティスに関する知識
- 要件を収集、明確化、文書化する能力
- 優れた文書および口頭でのコミュニケーション能力
- 効果的な分析力と問題解決能力
- 保険用語に関する知識
福利厚生
- 福利厚生は従業員の所在国によって異なります
- 採用プロセス中の宿泊または必要な調整を支援します
