シニアデータエンジニア - ポーランドリモート
Valtechにシニアデータエンジニアとして加わり、分析、機械学習、生成AI、本番データプロダクトを支えるクラウドデータプラットフォームを構築します。 スケーラブルなパイプライン、レイクハウスアーキテクチャ、現代的なAI・分析ワークロード向けの信頼性の高いデータサービスを開発します。
仕事内容
- 分析、AI、データプロダクト向けのクラウドデータプラットフォームを設計、開発、最適化する。
- 構造化データと非構造化データ向けに、信頼性の高いバッチ、ストリーミング、ニアリアルタイムのパイプラインを作成する。
- データの取り込み、変換、キュレーションのための堅牢なプロセスを開発する。
- DatabricksまたはMicrosoft Fabricを使用して、レイクハウスソリューションとメダリオンレイヤーアーキテクチャを構築する。
- 分析、機械学習、因果分析、最適化、生成AI、LLM、RAG、エージェントベースのアプリケーション向けに信頼できるデータセットを作成する。
- Airflow、dbt、Databricks Workflows、Azure Data Factory、または同等のツールでデータモデルを作成し、ワークフローオーケストレーションを自動化する。
- イベント駆動型およびストリーミングのパターンを活用しながら、ガバナンス、リネージ、品質管理、アクセス管理、オブザーバビリティを確立する。
- データの鮮度、パイプラインの耐障害性、SLAパフォーマンス、スケーラビリティ、効率、運用コストを追跡する。
- 下流の機械学習およびAIソリューション向けに、サービングレイヤー、API、特徴量入力、分析インターフェースを提供する。
- ステークホルダーへのヒアリングと根拠に基づく提案を通じて、ビジネスニーズを明確化し改善する。
- データサイエンティスト、機械学習エンジニア、アナリスト、プラットフォームチーム、ビジネスステークホルダーと協力する。
- チームによるデータプロダクトの導入を支援し、データおよびAIエンジニアリングの実践を向上させる。
応募要件
- Apache SparkとDelta Lakeの実務経験。
- PythonとSQLの高いプログラミング能力。
- バッチおよびストリーミングパイプライン、ならびに本番運用可能なデータプラットフォームの提供経験。
- データモデリング、データ品質、データガバナンスに関する十分な知識。
- AWSデータサービスとDatabricks Lakehouse、またはMicrosoft Azure/Fabricおよび関連ツールに関する豊富な実務経験。
- いずれかのクラウドおよびプラットフォームの技術パスにおける深い専門性。SnowflakeまたはGCPの知識があれば望ましいが、必須ではない。
- レイクハウスアーキテクチャの設計と分散データシステムの利用経験。
- データパイプラインに求められるスケーラビリティ、信頼性、パフォーマンスへの深い理解。
- 優れた問題解決能力と協調的な働き方。
- アジャイルまたはコンサルティング環境での経験があれば望ましい。
- 生成AIおよびAIデータプラットフォーム、データパイプラインのCI/CD、TerraformまたはCloudFormation、Kafka、Spark最適化、高度な分析または機械学習ワークロード、大規模データプロダクトの経験があれば望ましい。
- 関連する経験と専門知識を記載した履歴書を提出する。
福利厚生
- 年間24日の有給休暇。
- 国民の祝日が対象となる。
- 年間最大20日の病気休暇。
- 年間最大20日の無給休暇。
- 医療保険。
- MultisportカードまたはMultikafeteriaを選択可能。
- 産休・育休への支援。
- 社内ワークショップと学習活動。
- 専門資格取得費用の払い戻し。
- 地域およびグローバルの専門コミュニティに参加する機会。
- 成長フレームワークを通じて期待値を設定し、希望するキャリアパスに向けた成長を計画できる。
- メンターまたはメンティーとして成長し、より高いポジションを目指せるメンタリングプログラム。
- 勤続期間に応じて拡充される段階的な福利厚生パッケージ。
- 国ごとの提供状況に応じた柔軟なリモートおよびハイブリッド勤務。
- 国際異動と専門能力開発プログラムによるキャリア成長。
- 最新のツール、研修、業界専門家へのアクセス。
- 面接プロセス全体を通じた合理的配慮。
