高级 Databricks 数据工程顾问
在 SDG Group 负责客户数据工程交付,构建可扩展的 Databricks 解决方案并优化 SQL 转换。 指导技术决策、辅导同事,帮助客户将云数据平台与业务成果相连接。
描述
- 通过设计、测试和持续支持,在 Databricks 上构建并维护可扩展的数据解决方案。
- 通过排查问题和调优性能,改进复杂 SQL 查询及转换逻辑。
- 领导数据工程工作流,并作出审慎的技术决策。
- 使用 ETL/ELT 方法和集成工具连接结构化与非结构化数据源。
- 为报告、分析、人工智能及下游应用设计并评审可扩展的数据模型和数据仓库结构。
- 参与云数据平台架构设计与现代化改造。
- 建立完善的交付实践,涵盖开发、测试、文档、部署、可维护性和治理。
- 解决并改进数据质量、可靠性、可扩展性以及查询或数据管道性能问题。
- 与客户相关方合作,澄清需求、说明权衡、推荐解决方案、明确技术预期,并将工程决策与业务成果联系起来。
- 与跨领域团队协调,评审技术工作、分享实践,并指导初级工程师和顾问。
- 持续了解 Databricks 功能、数据工程方法和行业实践。
- 分享专业知识,并在 SDG 社群中发挥技术领导作用。
任职要求
- 拥有约 5–7 年或以上数据工程、数据仓库、数据集成、分析工程或相关技术领域经验。
- 具备负责复杂技术交付并取得成果的经历。
- 拥有丰富的 Databricks 实际工作经验,包括生产环境中的数据工程和分析工作负载。
- 熟练使用 Databricks SQL。
- 具备高级 SQL 技能,能够处理连接、CTE、窗口函数、聚合、复杂转换、性能调优和数据验证。
- 能够熟练使用 Python 或其他相关编程或脚本语言。
- 深入理解数据管道、ETL/ELT、集成、数据仓库、转换模式及生产数据工程实践。
- 理解维度建模和现代数据建模概念。
- 拥有现代云环境和企业级数据平台的丰富经验。
- 使用过现代数据工程、编排或转换工具。
- 能够跨多个源系统和目标系统主导数据验证、核对、故障排查和性能调优。
- 具备扎实的分析判断力和架构判断力。
- 具备良好的书面和口头沟通能力。
- 能够主导技术讨论、影响相关方、清晰讲解复杂主题并赢得客户信任。
- 能够指导同事,并持续提升技术和咨询能力。
- 强烈优先考虑拥有咨询或其他面向客户的工作经验者。
- 高度优先考虑拥有 Matillion 和/或 dbt 经验者。
- 优先考虑拥有 Databricks SQL Warehouses、Delta Lake 或 Delta Tables、Databricks Workflows、Unity Catalog、Snowflake、PySpark,以及大规模企业数据迁移或现代化改造经验者。
- 优先考虑拥有制药、生命科学、医疗保健或其他严格监管行业经验者。
福利待遇
- 在不断发展的高科技领域从事全职工作。
- 以绩效为基础的文化,支持职业发展和专业成长。
- 具有竞争力的薪酬。
- 提供雇主配比供款的 401(k) 退休计划。
- 医疗、牙科、视力和伤残保险。
- 至少三周带薪年假。
- 灵活的节假日安排。
- 混合办公,可结合现场和远程工作。
- 持续培训,并积累现代数据、分析和人工智能技术经验。
- 与经验丰富的专业人士在协作氛围中共事。
- 参与内容充实的客户项目。
