
高级数据工程师(保加利亚远程)
在 Valtech 构建云端数据平台和数据管道,支持分析、AI 与数据产品。 使用 AWS、Databricks 等云环境开展工作,包括生成式 AI 应用场景。
描述
- 创建并改进云端数据平台,为分析、AI 和数据产品提供支持。
- 使用 Spark 和 Delta Lake 构建可靠的批处理、流处理及近实时数据管道。
- 为结构化和非结构化数据开发摄取、转换与整理工作流。
- 应用湖仓架构以及青铜、白银、黄金分层。
- 协助在云平台之间迁移工作负载,包括重新部署数据管道和数据模型。
- 为分析、机器学习、因果建模和优化生成可用于部署的数据集。
- 为生成式 AI 应用开发数据管道,包括 LLM、RAG、向量数据流和智能体架构。
- 使用 Databricks MLflow、Unity Catalog 或同类工具。
- 创建逻辑数据模型和物理数据模型。
- 使用 Databricks Workflows、Airflow、dbt 或同类工具协调工作流。
- 采用事件驱动和流处理架构模式。
- 使用 Unity Catalog、AWS Lake Formation、Microsoft Purview、GCP Dataplex 或类似工具管理数据治理、血缘、质量和访问控制。
- 监控数据新鲜度、管道可靠性和 SLA 表现。
- 通过 API、特征输入和分析端点提供数据。
- 提升数据管道和基础设施的性能、可扩展性及成本效益。
- 梳理利益相关方的需求,审视既定要求并提出替代方案。
- 与数据科学家、机器学习工程师、分析师、平台团队和业务利益相关方协作。
- 帮助团队采用数据产品,并为共享实践作出贡献。
任职要求
- 具备高级数据工程师工作经验。
- 具备扎实的 Apache Spark 和 Delta Lake 实践经验。
- 具备扎实的 Python 和 SQL 技能。
- 有构建批处理与流处理管道以及生产级数据平台的实际经验。
- 扎实掌握数据建模、数据质量和数据治理。
- 拥有丰富的 Databricks Lakehouse Platform 实操经验。
- 精通至少一种主流云平台:AWS、GCP 或 Azure/Fabric。
- 愿意并能够跨云平台开展工作。
- 具备湖仓架构和分布式系统经验。
- 深入理解可扩展性、可靠性和性能。
- 善于探索和解决问题,并能与跨职能团队协作。
- 能够坦诚审视业务需求。
- 适应能力强,并有兴趣使用不同平台开展工作。
- 具备敏捷开发或咨询经验者优先。
- 具备其他云平台或云迁移经验者优先。
- 具备 Snowflake 经验者优先。
- 具备生成式 AI 和 AI 数据系统经验者优先,包括 RAG 管道、向量数据库和 LLM 数据准备。
- 具备数据管道 CI/CD 和基础设施即代码经验者优先,包括 Terraform 和 CloudFormation。
- 具备 Kafka 等流处理工具、Spark 优化或机器学习与实验平台经验者优先。
- 具备构建数据产品或大型分析平台的经验者优先。
福利待遇
- 灵活的工作安排,包括混合办公选项,以及 25 天年假。
- 交通补贴和 Multisport 卡费用由公司共同承担。
- 提供优质医疗保险,便于获得医疗服务。
- 提供技术及其他技能培训、课程和认证的经费支持。
- 根据绩效评估制定个人职业发展路线图。
- 提供包含心理咨询和团队交流的自我关怀计划。
- 舒适且注重效率的办公室。
- 团队活动和公司聚会。
- 职业成长机会。
- 以共同价值观为指引的企业文化。
- 国际职业发展机会。
- 包容的文化,并提供无障碍支持。
相关职位

