高级数据工程师 – AI 与数据 | EY 金奈
EY 正在金奈招聘高级数据工程师,为咨询客户构建可扩展的 AWS 和 Databricks 解决方案。该职位重点负责数据管道、CI/CD 交付和企业级分析基础设施。
描述
- 负责数据解决方案开发和部署全生命周期中的 CI/CD 管道设计与管理
- 在各种源系统和目标系统之间进行数据映射与集成
- 构建和优化数据与 AI 解决方案,包括工程管道和数据模型
- 编写符合生产要求的 Python、PySpark 和 SQL 代码
- 使用 DevOps 实践交付企业级生产部署
- 通过冲刺规划、评审和持续改进参与敏捷交付
- 应用数据治理和数据质量标准,以支持数据完整性与合规性
任职要求
- 具有 5 至 8 年数据与 AI 解决方案、工程管道、数据建模和性能调优相关经验
- 拥有开发数据摄取框架和可扩展管道的丰富经验
- 熟悉 AWS 服务,包括 S3、EC2、Glue、Lambda 和 Secrets Manager,并具备高级使用经验
- 具有 Databricks 实际工作经验
- 熟练使用 DBT(Data Build Tool)
- 具有使用 Apache Airflow 进行工作流编排的经验
- 具备 Python、PySpark、Spark 和 Scala 编程能力
- 具有使用 Git、Jenkins 和 Apache Subversion 的经验
- 至少 3 年超大型数据仓库环境工作经验
- 至少 3 年数据仓库架构、ETL/ELT 流程以及报告或分析工具相关经验
- 具有在数据工程环境中使用 Python 和/或 Java 进行开发的经验
- 熟悉 EMR、Hadoop、Databricks、Hive 和 PySpark
- 深入理解数据治理和数据质量标准
- 能够开发高效的 Spark 作业,并在大规模环境中进行性能调优
- 具备高级 SQL 和数据查询能力
- 具备良好的书面和口头沟通能力
- 拥有 AWS、Databricks 或同等专业技术认证者优先
- 熟悉云技术和企业集成技术
