
資深 Databricks 資料工程師
為 State Street 金融服務平台建置 Azure 與 Databricks 資料管線。 在敏捷團隊中開發 ETL 流程、資料湖及可擴充的架構。
說明
- 在 Azure 和 Cosmos DB 上建置並測試端對端的串流、事件驅動及批次資料管線。
- 建立用於擷取、轉換資料並載入資料湖的 ETL 流程。
- 將 Databricks 與資料倉儲概念應用於工程工作。
- 設計並開發可設定的架構與程式庫,以支援高吞吐量資料處理。
- 透過協作、發揮影響力及概念驗證展示來推動變革。
- 執行軟體開發生命週期工作,包括設計、編碼、整合測試、部署及文件撰寫。
- 在敏捷專案團隊中協同工作。
- 遵循既定的工程實務與編碼標準。
- 監控資料管線並調查問題。
- 新增資料品質檢查與驗證。
- 作為敏捷 Scrum 團隊的一員,協助開發、強化及維護平台。
- 培養並拓展專業技能。
職位要求
- 具備電腦科學、資訊科技或相關領域的學士學位或同等學歷。
- 具備至少 10 年大數據管線相關經驗。
- 具備至少 5 年 Databricks 實務操作經驗。
- 具備至少 5 年雲端開發經驗,包括 Azure 服務、Azure DevOps、Kubernetes 和 Docker。
- 了解微服務架構與雲端運算;具備 Azure 經驗者優先。
- 精通 Databricks、Delta Lake 和 Apache Spark。
- 具備 Databricks SQL 和 Scala 的實務開發經驗。
- 了解 Databricks 資源,包括叢集與作業。
- 具備使用 ADO 和 Harness 疑難排解 DevOps 管線的經驗。
- 使用 Git 等版本控制工具。
- 具備使用 Avro、JSON 和 XML 等半結構化格式的經驗。
- 具備 Shell 指令碼、UNIX、TOAD 和 SQL Developer 的基礎知識。
- 具備資料分析與探索經驗。
- 具備金融業工作經驗。
- 具備敏捷開發方法的工作經驗。
- 能以書面及專業對談有效溝通。
- 能同時處理多項任務,並具備積極、適應力及解決問題的能力。
福利待遇
- 提供含公司配對提撥的 401(k) 退休計畫。
- 保險選項包括基本人壽、醫療、牙科、視力、長期失能保險及其他可選保障。
- 帶薪休假包括年假、病假、短期失能假及家庭照護相關假期。
- 可使用員工協助計畫。
- 可能符合年度績效獎勵資格。
- 可能符合某些具稅務優惠的儲蓄計畫資格。
- 提供促進共融的專業發展機會。
- 支持彈性的工作與生活平衡。
- 提供帶薪志工服務日。
- 設有員工社群網絡。



