DysrupIT
DysrupIT
51 – 200 员工
SaaS企业网络安全
DysrupIT 是一家云服务与 IT 解决方案公司,帮助组织实现技术现代化,并向“即服务”运营模式转型。其业务涵盖企业云、托管服务、应用工程、网络安全,以及数据分析与信息管理,为中小型组织到跨国企业等各类企业提供支持。公司与 Microsoft 及其他云平台合作,将技术交付与人才发展、社区影响力及长期合作伙伴关系相结合,打造符合业务需求的安全、可扩展技术环境。

高级数据工程师,GCP 财务数据管道

构建可审计的 Google Cloud 财务、计费与开票数据管道。 运用 BigQuery、Python、SQL 和数据质量控制,支持准确对账。

描述

  • 构建并维护用于财务和计费数据的 GCP 摄取管道。
  • 使用嵌套 ARRAY/STRUCT 表、分区和聚簇开发 BigQuery 模型。
  • 在源数据、暂存层和输出层之间添加对账检查。
  • 验证传入文件,并隔离无效或不完整的数据。
  • 创建可安全重复运行且不会产生重复或数据损坏的幂等管道。
  • 使用仅追加表和视图作为检查手段,以支持可审计性。
  • 使用 BigQuery NUMERIC 类型和恰当的舍入方式处理货币金额。
  • 管理具有生效日期的参考数据,包括费率、映射关系和客户属性。
  • 追踪从输出回溯至源数据的数据血缘。
  • 使用 pydantic 和 pytest 编写类型明确、易维护且经过充分测试的 Python 代码。
  • 开发并调优用于转换、对账和报告的高级 SQL。
  • 与工程、分析和财务相关方合作,将业务规则转化为可靠的数据逻辑。
  • 指导同事,并协助建立数据工程标准与实践。

任职要求

  • 至少六年数据工程经验。
  • 具备构建财务或计费管道的实绩,且要求每笔金额都能对平。
  • 具备扎实的 Python 技能,包括 pydantic、类型化代码和 pytest。
  • 具备高级 SQL 技能,包括复杂联接、窗口函数和性能调优。
  • 深入掌握 Google BigQuery,包括嵌套 ARRAY/STRUCT 表、分区和聚簇。
  • 具备使用 NUMERIC 数据类型准确处理货币金额的经验。
  • 具备设计仅追加表并使用视图检查数据的经验。
  • 深入了解数据质量实践,包括对账检查、文件验证和隔离处理。
  • 具备构建可安全重复运行的幂等管道的经验。
  • 具备实施数据血缘追踪并管理具有生效日期的参考数据的经验。
  • 具备开票经验,涵盖贷项通知单、重新开票、外汇换算和月末结账。
  • 具备在受监管或需审计环境中与财务或计费团队合作的经验。
  • 具备使用其他 GCP 服务的经验,例如 Cloud Storage、Cloud Run 或 Firestore。

福利待遇

  • 根据经验提供具有竞争力的薪酬。
  • 依法提供政府规定的福利。
  • 补充 HMO 医疗保障。
  • 协作、专业的工作环境。
  • 在发展中的组织获得职业成长机会。
  • 在适用情况下采用混合办公或远程办公安排。
  • 提供支持员工发展和职业进阶的培训。