软件工程师 III——数据工程(钦奈,现场办公)
为 LexisNexis Risk Solutions 构建并优化基于 Azure 的数据管道和平台。 支持多个业务领域的企业分析、报告和运营数据项目。
描述
- 使用 Azure Data Factory、Databricks 和 Azure 存储服务构建并维护可扩展的 ETL/ELT 管道
- 将关系数据库、API 和基于文件的数据源加载到 Azure 平台
- 使用 ECL 在 HPCC 上,以及使用 SparkSQL 和 PySpark 在 Azure 中创建转换
- 开发、维护并优化 Azure Databricks 笔记本和作业
- 实施高性能 Spark 工作负载,处理大规模数据
- 使用 ECL 在 HPCC 上,以及在 Delta Lake、Parquet 或同类列式格式中创建数据模型
- 调优 ECL、SQL 和 Spark 工作负载,以提升可扩展性和性能
- 与分析师、数据科学家及应用团队合作,明确数据需求并改进工程实践
任职要求
- 具备高级 SQL 技能,熟练掌握数据转换逻辑
- 了解数据仓库原理和 ETL/ELT 方法
- 具备 Azure Databricks、Spark SQL 和 PySpark 的实际经验
- 具备使用 Azure Data Factory、ADLS Gen2 以及 Azure SQL 或 Synapse 的经验
- 具备处理大型结构化和半结构化数据集的经验
- 熟悉敏捷软件开发实践
- 愿意学习新技术和运营流程
- 了解完整的软件开发生命周期(SDLC),涵盖需求、设计到维护
- 了解软件工程原则、设计模式和开发最佳实践
- 能够收集、澄清并记录需求
- 具备良好的书面和口头沟通能力
- 具备出色的分析和解决问题能力
- 熟悉保险术语
福利待遇
- 福利因员工所在国家/地区而异
- 为申请人提供住宿和招聘流程支持
- 提供平等就业机会
