数据工程经理 - 浦那(混合办公)
为 Marsh McLennan 的全球风险与咨询业务领导数据工程计划。 构建基于 Databricks、PySpark、SQL、Delta Lake 和 Lakehouse 的可扩展解决方案,支持受治理的分析。
描述
- 在 Databricks Lakehouse 平台上设计并交付可扩展的数据管道
- 创建和维护基于奖牌架构的数据产品
- 开发用于数据摄取、转换和消费的数据管道
- 构建可直接用于报表和分析的业务级黄金层数据集
- 管理 Delta Lake 表及相关数据资产
- 使用 Merge、Upsert 和 CDC 模式实现增量处理
- 通过分区、压缩和调优提升 Delta 表性能
- 评估传统数据流和 SQL,并将其转换为高效的 PySpark 管道
- 记录转换规则和迁移策略
- 在 Databricks 中开发可扩展的 PySpark 应用
- 创建可复用的工程框架和组件
- 调优 Spark 工作负载并审查执行计划
- 建立数据质量检查、对账流程和验证框架
- 编写复杂 SQL、存储过程和高效的转换逻辑
- 使用 SQL 进行数据分析、数据剖析和问题排查
- 提升大规模数据集的查询性能和数据模型
- 支持数据血缘、元数据、治理、CI/CD 和部署自动化
- 与数据架构师、业务利益相关者、分析师和平台团队合作
任职要求
- 具备经验证的 Databricks 和基于 Spark 的数据工程实践经验
- 具备在 Bronze、Silver 和 Gold 层应用奖牌架构的经验
- 具备设计和运营 Delta Lake 解决方案的经验
- 深入理解 Lakehouse 架构概念
- 具备为企业分析平台构建可扩展数据管道的经验
- 了解数据质量、数据血缘、治理和可观测性实践
- 具备 Informatica 经验者优先
- 具备云工程经验,最好熟悉 AWS
- 熟练掌握 Databricks、PySpark、SQL、Delta Lake、奖牌架构、数据建模以及大规模分布式处理
福利待遇
- 提供职业成长与发展的机会
- 与支持型领导共事,参与富有吸引力的工作
- 包容且充满活力的职场文化
- 灵活的工作环境
- 多元的职业发展路径
- 关注员工福祉的福利与奖励
- 可选择远程办公
- 提供办公室协作、关系建立和职业发展的机会
