
Google Cloud 数据工程师—哥伦比亚远程
为 Keyrus 企业智能解决方案构建可扩展的 Google Cloud 数据管道。 使用 BigQuery、Pub/Sub、Dataform、Cloud Storage 和 Cloud Composer。
描述
- 在 Google Cloud Platform 上创建并维护可扩展的数据摄取管道和工作流。
- 使用 BigQuery、Dataform、Pub/Sub、Cloud Storage 和 Cloud Composer 构建并优化数据处理与转换解决方案。
- 编写 SQL 查询,从企业系统中提取、转换和验证数据,并排查相关问题。
- 通过可靠的数据摄取流程,将多个来源的数据整合到 BigQuery。
- 解决管道故障、数据不一致和生产环境问题,确保运营稳定。
- 开发并执行单元测试、系统测试、集成测试和用户验收测试;记录结果并验证解决方案质量。
- 与工程师、架构师和业务相关方合作,将需求转化为有效的技术解决方案。
- 参与技术设计、代码审查、项目规划和持续改进。
- 编写并更新技术文档、开发规范和实施计划。
- 处理敏感信息时遵循安全、数据治理和工程标准。
- 参加生产支持值班轮班,通常每四至六周值守完整一周。
任职要求
- 至少三年数据工程、数据集成或相关技术岗位的专业经验。
- 拥有计算机科学、信息技术、工程或相关专业的学士学位。
- 具备云端数据摄取管道的设计、构建和维护经验。
- 具备在 Google Cloud Platform 上实施和支持数据处理工作流的经验。
- 具备诊断生产数据管道并解决数据质量或集成问题的经验。
- 熟悉软件开发实践、测试方法和技术文档编写。
- 能够独立工作,并与技术团队和业务相关方有效协作。
- 具备使用 Google Pub/Sub 实现事件驱动消息传递和数据摄取的实践经验。
- 具备扎实的 BigQuery 技能,能够用于数据仓储、查询和处理。
- 具备使用 Google Dataform 进行基于 SQL 的转换和工作流管理的经验。
- 具备构建流程以将多个来源的数据摄取到 BigQuery 的经验。
- 具备使用 Google Cloud Storage 进行云存储和数据集成的经验。
- 了解用于工作流编排和调度的 Cloud Composer(Apache Airflow)。
- 具备使用 GitHub 进行版本控制和团队开发的经验。
- 具备扎实的 SQL 技能,能够查询、转换、验证数据并排查问题。
- 具备使用 Google Cloud Data Fusion 的经验。
- 具备连接 SQL Server、DB2 或 Oracle 等关系数据库的经验。
- 具备集成 REST API 和 SOAP Web 服务的经验。
- 熟悉其他 Google Cloud 服务、数据库和企业集成。
- 具备使用 Jira 和 Confluence 进行项目跟踪和文档管理的经验。
- 有零售行业相关经验。
- 必须居住在哥伦比亚,并能够按照美东时间工作。
福利待遇
- 根据适用劳动法享有哥伦比亚强制性雇佣福利和法定权益。
- 完全远程办公,工作时间与美东时间保持一致。
- 提供专业发展、协作和持续学习的机会。
- 充满活力的工作环境,并有机会迎接挑战、开拓新领域。
- 倡导创新与创业精神的工作文化。
- 参与使用现代云技术的企业级数据工程项目。


