数据工程师,LLM 与生成式 AI 应用——新加坡(混合办公)
为 Assurity Trusted Solutions(GovTech 旗下子公司)构建 AWS 和 Databricks 数据管道。 支持数据与 AI 工作流中的 BI 分析及生产环境生成式 AI 集成。
描述
- 使用 Databricks、PySpark 和 SQL,在 AWS 数据平台上构建并运行可靠的 ETL 和 ELT 管道。
- 为 Tableau 仪表板和内部报告创建并优化数据模型与数据表。
- 与数据科学家和 AI 工程师合作,将生成式 AI 模型投入生产,协调数据依赖、提示词存储和推理管道。
- 为 ETL 工作流和数据架构实施监控、版本控制及数据质量标准。
- 通过与利益相关方紧密合作,将业务数据需求转化为可扩展的工程解决方案。
- 根据组织及区域要求维护数据安全与合规性。
任职要求
- 至少 3 年数据工程或类似技术岗位工作经验。
- 具备 Databricks、使用 PySpark 或 SQL 的 Spark,以及 AWS 服务(包括 S3、Glue、Lambda、Redshift 和 Athena)的实践经验。
- 深入了解数据仓库架构、数据建模和性能优化。
- 具备 Tableau 或类似商业智能与报告平台的实际使用经验。
- 了解 ML、生成式 AI 或 LLM 应用,包括基于 API 的模型部署、向量嵌入存储集成,或文本与聊天管道。
- 熟练掌握 Python,并深入理解基于 Git 的版本控制。
- 了解 API 设计、使用 Airflow 或 dbt 进行数据编排,以及 CI/CD 实践。
- 具备出色的分析、沟通和技术文档编写能力。
福利待遇
- 每年提供专项专业培训经费。
- 年度绩效奖金。
- 合同制员工享有与正式员工相同的福利。
