
大数据开发工程师——西班牙(远程)
加入 Talan,使用 Spark、Scala 和 SQL 构建数据湖管道。 为市场风险解决方案提供支持,协作于敏捷交付和生产支持团队。
描述
- 使用 Apache Spark、Scala 和 SQL 创建、增强和支持数据湖管道
- 为大规模数据工作负载开发可扩展的处理解决方案
- 通过 Control-M 和 Airflow 协调批处理工作流及其依赖关系
- 为市场风险用例交付数据摄取、转换、验证和发布流程
- 评估并提升 Spark 工作负载的性能、可靠性和可扩展性
- 审查技术和功能需求,发现差距并提出切实可行的解决方案
- 跨多个团队协作,协助交付规划
- 处理生产事件并调查其根本原因
- 持续帮助改进运营流程
- 与敏捷小组、职能利益相关者和生产支持团队合作
- 运用软件工程和数据开发实践,交付可靠、易维护且可用于生产的解决方案
任职要求
- 至少两年大数据、数据湖或基于云的数据平台专业经验
- 具备使用 Apache Spark、Scala 和 SQL 进行大规模数据处理的实践经验
- 了解数据湖架构、数据质量控制、数据血缘和生产级管道
- 具备较强的分析思维和问题解决能力
- 具备清晰的沟通能力和有效的团队协作能力
- 能够与技术和职能利益相关者合作
- 以适应性强且积极主动的方式解决技术挑战
- 英语达到 C1 级或具备同等的专业流利程度
- 具备工作流编排和调度经验,尤其是 Control-M 和 Airflow 经验者优先
- 具备 Databricks、Azure 和 AWS 经验者优先
- 具备 YARN 和基于云的计算环境经验者优先
- 具备 CI/CD 以及 GitHub、Jenkins 和 SonarQube 等工程工具经验者优先
- 具备银行生产环境、运营监控和 ServiceNow 等事件工具经验者优先
- 了解市场风险流程,包括损益、估值、风险指标和监管报告数据流者优先
福利待遇
- 全职永久雇佣合同
- 完全远程办公,可灵活选择工作地点
- 提供职业成长和发展机会
- 持续学习机会
- 多元文化的国际化工作环境
- 私人医疗保险
- 人寿保险
- 通过灵活薪酬计划提供午餐卡和交通卡
- 在线语言课程
- 远程办公智能办公套装








