시니어 데이터 엔지니어 — 포르투갈 원격 근무
Valtech에서 분석, AI, 프로덕션 데이터 제품을 지원하는 클라우드 데이터 플랫폼을 개발합니다. 확장 가능한 파이프라인, 레이크하우스 아키텍처, 생성형 AI 및 머신러닝 시스템을 담당합니다.
설명
- 분석, AI 및 데이터 제품을 지원하는 클라우드 데이터 플랫폼을 설계, 개발하고 개선합니다
- 정형 및 비정형 정보를 위한 안정적인 배치, 스트리밍 및 준실시간 파이프라인을 구축합니다
- 데이터 수집, 변환, 큐레이션 및 제공 워크플로를 개발합니다
- Databricks 또는 Fabric을 사용해 레이크하우스 설계와 메달리온 아키텍처를 구현합니다
- 분석, 머신러닝, 인과 모델링, 최적화, 생성형 AI, RAG 및 에이전트 기반 애플리케이션을 위한 큐레이션 데이터셋을 생성합니다
- MLflow, Unity Catalog, Azure ML 및 유사한 플랫폼 도구를 활용해 프로덕션 AI 시스템을 지원합니다
- Airflow, dbt, Databricks Workflows, Azure Data Factory 또는 유사한 도구로 데이터 모델을 만들고 워크플로를 조정합니다
- 데이터 거버넌스, 계보, 품질, 액세스 제어 및 관측 가능성 관행을 수립합니다
- 데이터 최신성, 파이프라인 안정성, SLA 성능, 확장성, 효율성 및 비용을 추적합니다
- 다운스트림 머신러닝 및 AI 애플리케이션을 위한 API, 피처 입력 및 분석 엔드포인트를 제공합니다
- 이해관계자와의 협업 및 분석을 통해 비즈니스 요구사항을 명확히 하고 구체화합니다
- 데이터 과학자, ML 엔지니어, 분석가, 플랫폼 팀 및 비즈니스 이해관계자와 긴밀히 협력합니다
- 데이터 제품 도입을 촉진하고 데이터 및 AI 관행의 발전을 지원합니다
지원 자격
- Apache Spark 및 Delta Lake 실무 경험
- 뛰어난 Python 및 SQL 프로그래밍 능력
- 배치 및 스트리밍 파이프라인과 프로덕션급 데이터 플랫폼을 구축한 경험
- 데이터 모델링, 품질 및 거버넌스 원칙에 대한 탄탄한 지식
- AWS 데이터 서비스와 Databricks Lakehouse, 또는 Microsoft Azure/Fabric 및 관련 도구의 실무 경험
- 레이크하우스 아키텍처 및 분산 데이터 시스템 경험
- 파이프라인 확장성, 안정성 및 성능에 대한 높은 이해도
- 호기심과 뛰어난 문제 해결 능력
- 다기능 팀에서 협업한 경험
- 애자일 또는 컨설팅 환경 경험이 있으면 우대
- Snowflake 또는 GCP 지식이 있으면 우대하지만 필수는 아님
- AWS와 Azure/Fabric, 생성형 AI 및 AI 데이터 시스템, 데이터 파이프라인 CI/CD, 인프라 코드화 전반의 전문성이 있으면 우대하지만 필수는 아님
- Kafka, Spark 최적화, 고급 분석 및 머신러닝 워크로드 또는 대규모 분석 플랫폼 관련 추가 경험이 있으면 우대
복리후생
- 국가에 따라 원격 및 하이브리드 근무의 유연성
- 국제 이동 기회와 전문성 개발 프로그램을 통한 커리어 성장
- 최신 도구, 교육 및 업계 전문가와 함께하는 학습 기회
- 경쟁력 있는 보상 패키지
