
시니어 Databricks 데이터 엔지니어
State Street 금융 서비스 플랫폼을 위한 Azure 및 Databricks 데이터 파이프라인을 구축합니다. 애자일 팀의 일원으로 ETL 프로세스, 데이터 레이크, 확장 가능한 프레임워크를 개발합니다.
설명
- Azure와 Cosmos DB에서 스트리밍, 이벤트 기반 및 배치 방식의 엔드투엔드 데이터 파이프라인을 구축하고 테스트합니다.
- 데이터 레이크로 데이터를 수집, 변환, 적재하는 ETL 프로세스를 만듭니다.
- Databricks 및 데이터 웨어하우징 개념을 엔지니어링 업무에 적용합니다.
- 대용량 데이터 처리를 위한 구성 가능한 프레임워크와 라이브러리를 설계하고 개발합니다.
- 협업, 영향력 발휘, 개념 증명 시연을 통해 변화를 추진합니다.
- 설계, 코딩, 통합 테스트, 배포, 문서화를 포함한 소프트웨어 개발 수명 주기 업무를 수행합니다.
- 애자일 프로젝트 팀과 협력하여 일합니다.
- 확립된 엔지니어링 관행과 코딩 표준을 적용합니다.
- 데이터 파이프라인을 모니터링하고 문제를 조사합니다.
- 데이터 품질 검사 및 검증을 추가합니다.
- 애자일 스크럼 팀의 일원으로 플랫폼 개발, 개선 및 유지 관리를 지원합니다.
- 전문 역량을 키우고 확장합니다.
지원 자격
- 컴퓨터 과학, IT 또는 관련 분야의 학사 학위나 이에 준하는 자격을 보유해야 합니다.
- 빅데이터 파이프라인 경력이 10년 이상이어야 합니다.
- Databricks 실무 경험이 5년 이상이어야 합니다.
- Azure 서비스, Azure DevOps, Kubernetes, Docker를 포함한 클라우드 개발 경력이 5년 이상이어야 합니다.
- 마이크로서비스 아키텍처와 클라우드 컴퓨팅을 이해해야 합니다. Azure 경험이 있으면 우대합니다.
- Databricks, Delta Lake, Apache Spark에 능숙해야 합니다.
- Databricks SQL 및 Scala를 사용한 개발 실무 경험이 있어야 합니다.
- 클러스터와 작업을 포함한 Databricks 리소스를 이해해야 합니다.
- ADO 및 Harness를 사용해 DevOps 파이프라인 문제를 해결한 경험이 있어야 합니다.
- Git과 같은 버전 관리 도구를 사용할 수 있어야 합니다.
- Avro, JSON, XML과 같은 반정형 형식으로 작업한 경험이 있어야 합니다.
- 셸 스크립팅, UNIX, TOAD, SQL Developer에 대한 기본 지식이 있어야 합니다.
- 데이터 분석 및 탐색 경험이 있어야 합니다.
- 금융 업계에서 근무한 경험이 있어야 합니다.
- 애자일 개발 방법론을 적용한 경험이 있어야 합니다.
- 문서 작성과 업무상 대화에서 효과적으로 소통할 수 있어야 합니다.
- 여러 업무를 동시에 처리하고 적극성, 적응력, 문제 해결 능력을 발휘할 수 있어야 합니다.
복리후생
- 회사 매칭 기여금이 포함된 401(k) 퇴직연금 제도.
- 기본 생명보험, 의료, 치과, 안과, 장기 장애 보험 및 추가 선택 보장을 포함한 보험 옵션.
- 유급 휴가에는 연차, 병가, 단기 장애 휴가 및 가족 돌봄 관련 휴가가 포함됩니다.
- 직원 지원 프로그램을 이용할 수 있습니다.
- 연간 성과 기반 인센티브를 받을 자격이 주어질 수 있습니다.
- 일부 세제 혜택 저축 제도에 가입할 자격이 주어질 수 있습니다.
- 포용적인 전문성 개발 기회.
- 유연한 일과 삶의 균형을 지원합니다.
- 유급 자원봉사일.
- 직원 네트워크.



