
シニアAWSデータエンジニア
GFT TechnologiesのLakehouseプラットフォームの近代化を担うシニアAWSデータエンジニア。 PythonとPySparkのパイプラインを構築し、データガバナンス、分析、AIを支援します。
仕事内容
- ETLツールを使用して大規模なデータセットを収集、整理、処理します。
- 顧客の事業目標を情報管理およびビジネスインテリジェンス戦略に落とし込みます。
- 情報への安全なアクセスを確保しながら、データパイプラインを構築、保守します。
- 収集したデータから指標やダッシュボードを作成し、情報の品質と完全性を維持します。
- Lakehouseアーキテクチャ、ガバナンス、品質、分析とAIへの対応を通じて、データプラットフォームの近代化を支援します。
- 業務チーム、ダッシュボード、レポート向けのディメンショナルモデルを設計します。
- データの取り込みと処理から、保存、変換、利用、ガバナンスまで、データライフサイクル全体に携わります。
- Python、PySpark、AWSサービスを使用してパイプラインを構築、調整します。
- Apache Icebergを使用し、分析テーブルの管理、バージョン管理、スキーマ進化、パーティショニング、性能調整を行います。
- Athena、Trino、Presto、Spark SQLなどのエンジンを使用して、ParquetやORCなどの列指向形式に保存された大規模データセットをクエリします。
- ユニットテストと性能テスト、セキュリティ対策、アクセス制御、クラウド監視を実施します。
- データプロセスの品質、トレーサビリティ、完全性、効率を向上させます。
応募要件
- ETLツールを使用したデータの収集、変換、ロードの経験。
- PythonおよびPySparkの使用経験。
- Glue、EMR、Athena、SNS、Lambda、Step Functions、S3、Lake Formation、IAM、CloudWatchなどのAWSサービスの使用経験。
- MongoDBやDynamoDBなどのNoSQLデータベースと、関連するHadoop技術に関する知識。
- LakehouseアーキテクチャおよびApache Icebergの経験。分析テーブルの管理、バージョン管理、スキーマ進化、パーティショニング、性能調整を含みます。
- Athena、Trino、Presto、Spark SQLなどの大規模クエリエンジンの使用経験。
- ParquetやORCなどの列指向データ形式に関する知識。
- ファクト、ディメンション、粒度、キー、階層、指標、KPIを含むディメンショナルモデリングの経験。
- 構造化、半構造化、非構造化データの処理経験。
- ユニットテストと性能テストに関する知識。
- クラウド環境でセキュリティ対策、アクセス制御、監視を適用した経験。
- AWS Cloud PractitionerおよびAWS Data Engineer認定資格があれば尚可。
- データ品質およびデータオブザーバビリティの経験があれば尚可。
- TerraformなどのInfrastructure as Codeツールや、CloudWatchなどの監視ツールに関する知識があれば尚可。
- Data Meshに関する知識があれば尚可。
- データへの人工知能の適用に関する知識があれば尚可。
- 問題解決能力。
- 自立して業務に取り組み、時間を効果的に管理する能力。
福利厚生
- 使い方や利用先を柔軟に選べる複数特典カード。
- 学部・大学院課程、MBAプログラム、語学コースの奨学金。
- 専門資格の取得を支援するプログラム。
- 柔軟な勤務時間。
- 競争力のある給与。
- 年次業績評価と体系的なキャリア開発計画。
- 海外でのキャリア機会。
- WellhubおよびTotalPassの利用。
- 企業年金制度。
- 育児支援。
- 医療保険。
- 歯科保険。
- 生命保険。








