资深数据平台工程师,KAYAK - 柏林混合办公
引领 KAYAK 共享数据平台的发展,为分析、机器学习和 AI 驱动的旅行搜索提供支持。 构建可扩展的流式处理、湖仓、元数据和查询基础设施。
描述
- 负责 KAYAK 共享数据平台的建设,涵盖近实时流处理、湖仓存储、模式管理、语义层和分布式查询基础设施
- 领导平台项目,从最初的问题定义和架构设计,到实施、上线和运营交接
- 制定数据契约、模式演进、数据摄取实践和生产就绪方面的技术标准
- 为流式摄取、压缩、保留、模式治理、可观测性以及常见数据工程挑战创建可复用的架构
- 通过管道监控、消费者延迟跟踪、数据质量验证和告警,实现平台可观测性
- 与运营、安全、工程、数据工程和产品团队合作,根据用户需求持续发展平台
- 领导语义层和元数据策略,支持一致的自助分析以及可信的 AI 数据访问
- 评估流式处理、存储、查询、编排和云基础设施领域的技术与架构方案
- 通过设计和代码评审、结对协作以及可复用的技术指导,培养工程师
- 解决涉及恢复、模式漂移、分区管理和性能下降的复杂架构与运营问题
任职要求
- 至少七年专业数据工程经验,其中包括大量高级或资深级工作,并具备组织范围的技术影响力
- 具备使用 Apache Iceberg、Parquet 和云对象存储等技术设计和运营大规模湖仓架构的经验
- 具备构建和运行生产级流式管道的经验,包括事件驱动摄取、恰好一次语义、消费者延迟管理、检查点、恢复和故障处理
- 具备数据契约、模式治理、元数据系统或语义层的实践经验
- 具备扎实的 Python 编程能力,以及交付可维护、可测试生产代码的经验
- 具备在 Kubernetes 上部署和运营数据工作负载的经验,包括容器化基础设施、资源调优和健康检查
- 能够影响多个团队,解释架构权衡并推动采用
- 具备通过评审、文档和可复用模式指导工程师并改进技术标准的经验
- 愿意负责范围广泛且定义不明确的技术问题领域
- 具备 Trino 等分布式查询引擎的经验
- 具备 Apache Airflow 等工作流编排工具的经验
- 具备 AWS 或同类公有云平台的使用经验
- 具备 GitHub Actions 等 CI/CD 和部署自动化工具的经验
- 了解 Java 或其他基于 JVM 的语言
福利待遇
- 每年最多可在几乎任何地点工作 20 天
- 公司通过 SpringHealth 提供心理咨询课程
- 公司提供 Headspace 订阅
- 每年享有一周全公司休假
- 周五不安排会议
- 带薪育儿假
- 带薪志愿服务时间
- 个人发展经费
- 领导力发展机会
- 可使用数千门按需在线学习课程
- 旅行折扣
- 员工资源小组
- 六周带薪年假,另加生日当天休假
- 每周两天免费午餐
- 养老金计划缴费
- 公共交通补贴
- 自行车租赁计划
- 每月社交活动、周四欢乐时光和体育团队
- 办公地点位于柏林腓特烈斯海因
