Talan 大数据开发工程师——阿根廷远程职位
在 Talan 为市场风险应用开发 Spark、Scala 和 SQL 数据湖流水线。 构建可扩展的数据处理工作流,并与国际 Agile 团队和生产支持团队协作。
描述
- 使用 Apache Spark、Scala 和 SQL 创建、增强并支持数据湖流水线
- 为海量数据集开发可扩展的数据处理解决方案
- 使用 Control-M、Airflow 及类似工具协调批处理工作流和依赖关系
- 为市场风险场景交付数据摄取、转换、验证和发布流程
- 提升 Spark 工作负载的性能、可靠性和可扩展性
- 审查技术和功能需求,识别差距并提出切实可行的解决方案
- 协助规划交付并协调跨团队工作,支持项目成功实施
- 响应生产事件,调查根本原因并改进运营流程
- 与 Agile 小组、业务职能相关方和生产支持团队合作,交付可靠的解决方案和业务价值
- 运用软件工程和数据开发实践,构建易于维护且可投入生产的系统
任职要求
- 至少两年大数据、数据湖或基于云的数据平台专业经验
- 具备使用 Apache Spark、Scala 和 SQL 进行大规模数据处理的实践经验
- 了解数据湖架构、数据质量控制、数据血缘和生产级流水线
- 具备较强的分析和解决问题能力
- 能够清晰沟通,并与技术和业务职能相关方有效协作
- 具备适应能力,能够主动解决技术挑战
- 英语达到 C1 或同等专业流利程度
- 具备西班牙语能力者优先
- 具备工作流编排和调度工具经验者优先,尤其是 Control-M 和 Airflow
- 具备 Databricks 以及 Azure、AWS 等云平台经验者优先
- 具备 YARN 和基于云的计算环境经验者优先
- 具备 CI/CD 以及 GitHub、Jenkins 和 SonarQube 等工程工具经验者优先
- 具备银行生产环境、运营监控以及 ServiceNow 等事件工具经验者优先
- 了解市场风险流程者优先,包括 P&L、估值、风险指标和监管报告数据流
福利待遇
- 全远程工作安排
- 提供培训和职业发展机会
- 有机会加入多元文化团队并参与国际项目
