
高级数据工程师(远程,加拿大)—Capgemini
构建可扩展的数据处理应用和 ETL 管道,支持 Capgemini 的数字化转型服务。 优化分布式工作负载,为分析、报告和机器学习提供支持。
描述
- 使用 Apache 技术和 SQL 创建、增强并支持可扩展的数据处理应用
- 使用 Python 和 Scala 开发高吞吐量 ETL 及数据转换管道
- 构建并调优批处理和近实时数据处理工作流
- 处理 Parquet、Hive 和分布式存储平台中的大型数据集
- 编写高性能 SQL 查询,改进执行计划,以实现规模化和高效率
- 定义数据模型、分区方案和存储架构
- 与数据工程师、软件工程师、数据科学家及产品团队协作
- 为数据应用建立自动化测试、监控和部署工作流
- 维护数据质量、可靠性、安全性和治理要求
任职要求
- 计算机科学、工程或相关技术领域的学士或硕士学位
- 至少五年软件工程或数据工程专业经验
- 熟练掌握 Apache 技术、SQL、Python 和 Scala
- 具有开发分布式数据处理应用的经验
- 深入了解 Hadoop 生态系统工具,例如 Hive、Parquet 和 HDFS
- 具有为大规模数据创建和调优 ETL 管道的经验
- 具备扎实的 SQL 开发和查询调优能力
- 了解 Linux 系统和 Shell 脚本
- 具有使用 Git 等源代码管理工具的经验
- 优先考虑具备 AWS、分布式计算、大规模数据架构、Airflow 编排以及数据湖或湖仓环境经验者
福利待遇
- 根据职级享有 12 至 25 天年假
- 带薪公司节假日
- 个人休假日
- 病假
- 医疗、牙科和视力保险,或与加拿大省级医疗保健体系协调
- 退休储蓄计划,例如加拿大的 RRSP
- 人寿及伤残保险
- 员工援助计划
- 其他福利根据当地政策和资格确定
- 可能提供浮动薪酬、奖金或佣金








