소프트웨어 엔지니어 III, 데이터 엔지니어링 - RELX, 첸나이 현장 근무
LexisNexis Risk Solutions를 위한 Azure 및 HPCC 데이터 파이프라인을 구축합니다. 리스크 분석, 보고 및 운영 데이터 요구사항을 지원하는 확장 가능한 플랫폼을 개발합니다.
설명
- Azure Data Factory, Databricks 및 Azure 스토리지 서비스를 사용해 확장 가능한 ETL 및 ELT 파이프라인을 생성하고 유지합니다
- 관계형 데이터베이스, API 및 파일 기반 소스의 데이터를 Azure 데이터 플랫폼에 로드합니다
- ECL을 사용해 HPCC에서 데이터를 변환하고, Azure Databricks를 통해 Spark SQL 및 PySpark를 사용해 Azure에서 데이터를 변환합니다
- Azure Databricks 노트북과 작업을 개발, 유지 관리 및 개선합니다
- 대규모 데이터 세트를 처리하기 위한 효율적인 Spark 워크로드를 구축합니다
- ECL을 사용해 HPCC에서 데이터 모델을 생성하고, Delta Lake, Parquet 및 기타 컬럼형 형식으로 데이터 모델을 생성합니다
- ECL, SQL 및 Spark 워크로드를 튜닝해 성능과 확장성을 향상합니다
- 비즈니스 분석가, 데이터 과학자 및 애플리케이션 팀과 협업해 데이터 요구사항을 명확히 하고 엔지니어링 관행을 발전시킵니다
- 신뢰성, 확장성 및 보안성을 갖춘 엔터프라이즈 데이터 플랫폼과 파이프라인을 개발하고 개선합니다
- 분석, 보고 및 운영 사용 사례를 위한 데이터 솔루션을 제공합니다
지원 자격
- SQL 및 데이터 변환 로직에 대한 입증된 역량
- 데이터 웨어하우징 원칙과 ETL/ELT 패턴에 대한 실무 지식
- Azure Databricks, Spark SQL 및 PySpark 실무 경험
- Azure Data Factory, Azure Data Lake Storage Gen2 및 Azure SQL 또는 Synapse 경험
- 대규모 정형 및 반정형 데이터 세트를 처리한 경험
- 애자일 개발 방식에 대한 이해
- 건설적인 자세와 새로운 도구 및 프로세스를 배우려는 의지
- 요구사항 및 설계부터 구현, 테스트, 배포, 유지 관리까지 소프트웨어 개발 수명주기에 대한 이해
- 소프트웨어 엔지니어링 원칙, 디자인 패턴 및 개발 모범 사례에 대한 지식
- 요구사항을 수집하고 명확히 하며 문서화하는 능력
- 뛰어난 서면 및 구두 커뮤니케이션 능력
- 효과적인 분석 및 문제 해결 능력
- 보험 용어에 대한 이해
복리후생
- 복리후생은 직원의 근무 국가에 따라 달라집니다
- 채용 과정에서 숙박 또는 필요한 조정에 대한 지원을 제공합니다
