Marsh McLennan
Marsh McLennan
Marsh McLennan 是一家全球性专业服务公司,业务涵盖风险、战略和人才相关咨询服务。旗下企业包括提供保险经纪和风险管理服务的 Marsh,专注于再保险和资本策略的 Guy Carpenter,为客户提供健康、财富和职业咨询服务的 Mercer,以及专注于战略、经济学和品牌咨询的 Oliver Wyman。Marsh McLennan 在全球拥有超过 85,000 名员工,汇聚了金融、咨询、营销及相关专业服务领域的专业知识。公司旗下四大业务涵盖客户咨询、风险分析、商业战略、咨询和运营团队等多种职位。

数据工程经理 - 浦那(混合办公)

为 Marsh McLennan 的全球风险与咨询业务领导数据工程计划。 构建基于 Databricks、PySpark、SQL、Delta Lake 和 Lakehouse 的可扩展解决方案,支持受治理的分析。

描述

  • 在 Databricks Lakehouse 平台上设计并交付可扩展的数据管道
  • 创建和维护基于奖牌架构的数据产品
  • 开发用于数据摄取、转换和消费的数据管道
  • 构建可直接用于报表和分析的业务级黄金层数据集
  • 管理 Delta Lake 表及相关数据资产
  • 使用 Merge、Upsert 和 CDC 模式实现增量处理
  • 通过分区、压缩和调优提升 Delta 表性能
  • 评估传统数据流和 SQL,并将其转换为高效的 PySpark 管道
  • 记录转换规则和迁移策略
  • 在 Databricks 中开发可扩展的 PySpark 应用
  • 创建可复用的工程框架和组件
  • 调优 Spark 工作负载并审查执行计划
  • 建立数据质量检查、对账流程和验证框架
  • 编写复杂 SQL、存储过程和高效的转换逻辑
  • 使用 SQL 进行数据分析、数据剖析和问题排查
  • 提升大规模数据集的查询性能和数据模型
  • 支持数据血缘、元数据、治理、CI/CD 和部署自动化
  • 与数据架构师、业务利益相关者、分析师和平台团队合作

任职要求

  • 具备经验证的 Databricks 和基于 Spark 的数据工程实践经验
  • 具备在 Bronze、Silver 和 Gold 层应用奖牌架构的经验
  • 具备设计和运营 Delta Lake 解决方案的经验
  • 深入理解 Lakehouse 架构概念
  • 具备为企业分析平台构建可扩展数据管道的经验
  • 了解数据质量、数据血缘、治理和可观测性实践
  • 具备 Informatica 经验者优先
  • 具备云工程经验,最好熟悉 AWS
  • 熟练掌握 Databricks、PySpark、SQL、Delta Lake、奖牌架构、数据建模以及大规模分布式处理

福利待遇

  • 提供职业成长与发展的机会
  • 与支持型领导共事,参与富有吸引力的工作
  • 包容且充满活力的职场文化
  • 灵活的工作环境
  • 多元的职业发展路径
  • 关注员工福祉的福利与奖励
  • 可选择远程办公
  • 提供办公室协作、关系建立和职业发展的机会