Valtechの北マケドニア向けリモートシニアデータエンジニア
Valtechでシニアデータエンジニアとして、分析、AI、生成AI、データプロダクトを支えるクラウドデータプラットフォームを構築します。スケーラブルなパイプライン、レイクハウスアーキテクチャ、ガバナンス、信頼性の高いデータ提供を担当します。
仕事内容
- 分析、AI、データプロダクト向けのクラウドデータプラットフォームを構築・最適化する
- SparkやDelta Lakeなどのツールを使って、信頼性の高いバッチ、ストリーミング、ほぼリアルタイムのパイプラインを開発する
- 構造化データと非構造化データの取り込み、変換、キュレーションのワークフローを作成する
- DatabricksまたはFabricを使用してレイクハウスアーキテクチャとメダリオンレイヤーを実装する
- 分析、機械学習、因果モデリング、最適化向けにキュレーション済みデータセットを提供する
- LLM、RAG、ベクトル検索、エージェントを活用した生成AIデータフローを開発する
- スケーラブルな論理データモデルと物理データモデルを設計する
- Airflow、dbt、Databricks Workflows、Azure Data Factory、または同等のツールでワークフローをオーケストレーションする
- データガバナンス、リネージ、品質、アクセス制御、セキュリティの実践を適用する
- データの鮮度、パイプラインの信頼性、SLAパフォーマンスを監視する仕組みを確立する
- API、特徴量入力、分析エンドポイントなどのデータ提供レイヤーを支援する
- パフォーマンス、スケーラビリティ、コスト効率のためにパイプラインとインフラを最適化する
- ステークホルダーとビジネス要件を明確化し、具体化する
- データサイエンティスト、MLエンジニア、アナリスト、プラットフォームチーム、ビジネスステークホルダーと協働する
- データプロダクトの導入を支援し、データとAIのエコシステムに関する実践を発展させる
応募要件
- シニアレベルのデータエンジニアリング経験
- Apache SparkとDelta Lakeの実務経験
- PythonとSQLの高いプログラミングスキル
- バッチおよびストリーミングデータパイプラインの構築経験
- 本番環境向けデータプラットフォームの提供経験
- データモデリング、データ品質、データガバナンス原則に関する確かな知識
- AWSデータサービスとDatabricks Lakehouse、またはMicrosoft Azure/Fabricのサービスとツールの実務経験
- AWSまたはAzure/Fabricの少なくとも1つのプラットフォーム領域における深い専門知識
- レイクハウスアーキテクチャと分散データシステムの経験
- パイプラインのスケーラビリティ、信頼性、パフォーマンスに関する深い理解
- 高い問題解決能力と、部門横断で協働する姿勢
- SnowflakeまたはGCPの知識があれば尚可。ただし必須ではない
- アジャイルまたはコンサルティング環境での経験があれば尚可
- AWSとAzure/Fabricの両方の経験、生成AIおよびAIデータシステム、データパイプラインのCI/CD、TerraformまたはCloudFormation、Kafka、Spark最適化、高度な分析、MLワークロード、データプロダクト、大規模分析プラットフォームなどの経験があれば、さらに評価される
- 学歴要件の指定なし
福利厚生
- 民間医療保険
- 教育プログラムによる研修と資格取得支援
- ウェルビーイングプログラム
- 職場でのコーヒー、飲料、スナックの無料提供
- 会社の夕食会
- スキー旅行、カート、レーザータグ、ワインテイスティング、ピクニック、料理教室などの社内イベント
- 競争力のある給与
- 24日の休暇
- チーム全体を対象とした年次イベント
- やりがいのあるプロジェクト
- 専門的な成長を支援するインクルーシブな文化
- オープンなフィードバック文化
- 合理的な面接上の配慮
