
Databricks 資料平台經理(德州遠端)
負責 Allata 受治理的 Lakehouse 與企業資料倉儲平台之架構與交付。指導資料管道、安全性、擴充能力及資料產品開發。
說明
- 為 Lakehouse 與企業資料倉儲平台制定架構、技術選擇、參考模式及整合藍圖。
- 為多租戶及產業專屬資料產品建立概念、邏輯與實體模型。
- 統一資料擷取、原始儲存、整理及服務層。
- 建立中繼資料、目錄、資料沿革、資料契約及分類的治理實務。
- 制定存取控制、遮罩、加密、網路分段及稽核的安全與合規控制措施。
- 規劃平台擴充能力、高可用性、災難復原、容量及成本管理。
- 主導 Databricks、Delta Lake、Delta Live Tables、Fivetran、Azure Data Factory 或 Data Fabric、編排及監控工具的選擇與整合。
- 為資料資產制定並落實 CI/CD 實務,包括測試、自動發布及回復計畫。
- 制定批次與串流資料擷取、壓縮、分割及儲存方式。
- 制定可觀測性標準,涵蓋指標、SLA、儀表板、日誌、追蹤及警示。
- 為資料工程團隊提供技術領導與指導。
- 審查關鍵元件的架構與程式碼。
- 與資料產品負責人及安全、基礎設施、BI 和 ML 相關人員合作,將需求轉化為解決方案與路線圖。
- 使用 Spark、PySpark 或 Scala、Spark SQL 及預存程序建置、測試並部署處理模組。
- 在 Databricks 與資料庫平台上開發並調校資料管道。
- 應用 DevOps 實務、基礎設施即程式碼、CI/CD、自動化測試及版本控制。
- 解決複雜的資料品質、效能及可用性問題,並推動持續改善。
職位要求
- 曾任企業資料平台架構師或技術負責人。
- 熟悉 Databricks 技術,包括 Delta Lake、Unity Catalog、Delta Live Tables、Auto Loader 及 Structured Streaming。
- 精通 Spark、PySpark 和/或 Scala、Spark SQL 及分散式作業最佳化。
- 具備資料倉儲與 Lakehouse 設計背景。
- 實際了解 Medallion、Lambda 及 Kappa 模式。
- 具備整合 Fivetran 等 SaaS、ETL 或連接器工具的經驗。
- 具備使用 Airflow、Azure Data Factory 及 Data Fabric 等編排工具的經驗。
- 具備關聯式與混合式資料庫經驗,包括 MS SQL Server、PostgreSQL、Oracle、Azure SQL、AWS RDS/Aurora 或同等產品。
- 熟練使用 Azure DevOps、GitHub Actions、Jenkins 或類似工具進行資料管道 CI/CD。
- 具備封裝與部署 .whl 檔案、容器等成品的經驗。
- 具備批次與串流處理、檔案壓縮、分割及儲存調校經驗。
- 了解雲端安全、IAM/RBAC、加密、VPC/VNet 概念及雲端網路。
- 熟悉 Prometheus、Grafana、Datadog 或雲端原生服務等可觀測性及監控工具。
- 具備 CI/CD 管線自動化與主幹式開發經驗者佳。
- 具備進階 PySpark 技能者佳。
- 具備進階 Spark 工作流程最佳化及編排技能者佳。
- 具備 Databricks、雲端架構或資料相關認證者佳。
- 能夠找出、排查並解決複雜資料問題。
- 具備良好的協作與溝通能力。
- 對新工具、新技術及新方法保持好奇並樂於接受。
福利待遇
- 全職職位。
- 平等機會且具包容性的工作環境。
- 致力於多元化。




