首席資料工程師(遠端,波蘭)
為 Simple Machines 這家全球科技顧問公司負責雲端原生資料平台、管線與資料產品的架構及交付。居住在波蘭並遠端工作,同時制定技術方向並與客戶合作。
說明
- 負責現代雲端原生資料平台從設計到交付的整體架構。
- 透過資料網格、資料產品與資料契約打造可擴充的資料生態系統。
- 制定涵蓋資料擷取、儲存、處理與存取的架構。
- 確保平台符合安全、合規與正式環境就緒標準。
- 使用 Databricks、Snowflake、AWS 與 GCP 交付雲端原生平台。
- 連接客戶系統,為資料使用者提供可擴充的資料存取能力。
- 建置並調校批次與即時資料管線。
- 使用 Kafka、Flink、Kinesis 與 Pub/Sub 處理串流及訊息傳遞。
- 使用 Airflow、Dataflow 與 Glue 協調工作流程。
- 使用 Spark 與 Flink 處理及轉換大型資料集。
- 使用關聯式、NoSQL 與分析型資料庫,包括 Postgres、BigQuery、Snowflake、Cassandra 與 MongoDB。
- 透過 Parquet、Delta、ORC 與 Avro 改善儲存格式及存取模式。
- 從一開始就將安全納入考量,打造安全且合規的解決方案。
- 整合資料治理,同時避免拖慢開發工作流程。
- 直接與客戶合作,了解挑戰並共同規劃解決方案。
- 將業務需求轉化為務實的工程決策。
- 作為值得信賴的技術夥伴為客戶提供建議。
- 制定工程標準、模式與實務規範。
- 審查設計與程式碼,提供技術指導及 mentoring。
- 強化資料品質、測試、可觀測性與維運實務。
職位要求
- 具備紮實的 Python 與 SQL 技能。
- 具備 Spark 以及 Databricks 或 Snowflake 等現代資料平台的深厚經驗。
- 了解 AWS 或 GCP 上的雲端資料服務。
- 曾負責大型資料平台的架構設計。
- 具備良好的資料建模能力,並能做出穩健的架構決策。
- 選擇解決方案時能兼顧效能、成本與複雜度。
- 曾建置並維運大規模正式環境資料管線。
- 具備多種儲存技術與資料格式的使用經驗。
- 使用 Terraform 或 Pulumi 等基礎架構即程式碼工具。
- 使用 GitHub Actions 或 ArgoCD 等工具建置 CI/CD 管線。
- 使用 dbt、Great Expectations 或 Soda 等資料測試與品質框架。
- 具備顧問或專業服務領域的經驗。
- 能質疑既有假設,並引導客戶取得更好的成果。
- 樂於指導資深工程師並形塑技術文化。
福利待遇
- 處理具挑戰性且能帶來實質影響的問題。
- 打造現代平台,而非維護舊有系統。
- 與經驗豐富的工程師合作。
- 在工作中享有自主權並發揮影響力。
- 擁有專業發展機會。
