Allata
Allata
Allata 是一家全球性顧問公司,協助組織將數位策略轉化為實際的業務改善。其團隊涵蓋策略、客戶體驗、雲端與技術、資料及人工智慧,協助客戶推動現代化、個人化服務與營運效率提升。Allata 服務汽車、醫療保健、物流、金融服務及高科技等產業,並運用前 IT 領導者與顧問專業人士的經驗,為複雜的數位計畫提供指引。

Databricks 資料平台經理(德州遠端)

負責 Allata 受治理的 Lakehouse 與企業資料倉儲平台之架構與交付。指導資料管道、安全性、擴充能力及資料產品開發。

說明

  • 為 Lakehouse 與企業資料倉儲平台制定架構、技術選擇、參考模式及整合藍圖。
  • 為多租戶及產業專屬資料產品建立概念、邏輯與實體模型。
  • 統一資料擷取、原始儲存、整理及服務層。
  • 建立中繼資料、目錄、資料沿革、資料契約及分類的治理實務。
  • 制定存取控制、遮罩、加密、網路分段及稽核的安全與合規控制措施。
  • 規劃平台擴充能力、高可用性、災難復原、容量及成本管理。
  • 主導 Databricks、Delta Lake、Delta Live Tables、Fivetran、Azure Data Factory 或 Data Fabric、編排及監控工具的選擇與整合。
  • 為資料資產制定並落實 CI/CD 實務,包括測試、自動發布及回復計畫。
  • 制定批次與串流資料擷取、壓縮、分割及儲存方式。
  • 制定可觀測性標準,涵蓋指標、SLA、儀表板、日誌、追蹤及警示。
  • 為資料工程團隊提供技術領導與指導。
  • 審查關鍵元件的架構與程式碼。
  • 與資料產品負責人及安全、基礎設施、BI 和 ML 相關人員合作,將需求轉化為解決方案與路線圖。
  • 使用 Spark、PySpark 或 Scala、Spark SQL 及預存程序建置、測試並部署處理模組。
  • 在 Databricks 與資料庫平台上開發並調校資料管道。
  • 應用 DevOps 實務、基礎設施即程式碼、CI/CD、自動化測試及版本控制。
  • 解決複雜的資料品質、效能及可用性問題,並推動持續改善。

職位要求

  • 曾任企業資料平台架構師或技術負責人。
  • 熟悉 Databricks 技術,包括 Delta Lake、Unity Catalog、Delta Live Tables、Auto Loader 及 Structured Streaming。
  • 精通 Spark、PySpark 和/或 Scala、Spark SQL 及分散式作業最佳化。
  • 具備資料倉儲與 Lakehouse 設計背景。
  • 實際了解 Medallion、Lambda 及 Kappa 模式。
  • 具備整合 Fivetran 等 SaaS、ETL 或連接器工具的經驗。
  • 具備使用 Airflow、Azure Data Factory 及 Data Fabric 等編排工具的經驗。
  • 具備關聯式與混合式資料庫經驗,包括 MS SQL Server、PostgreSQL、Oracle、Azure SQL、AWS RDS/Aurora 或同等產品。
  • 熟練使用 Azure DevOps、GitHub Actions、Jenkins 或類似工具進行資料管道 CI/CD。
  • 具備封裝與部署 .whl 檔案、容器等成品的經驗。
  • 具備批次與串流處理、檔案壓縮、分割及儲存調校經驗。
  • 了解雲端安全、IAM/RBAC、加密、VPC/VNet 概念及雲端網路。
  • 熟悉 Prometheus、Grafana、Datadog 或雲端原生服務等可觀測性及監控工具。
  • 具備 CI/CD 管線自動化與主幹式開發經驗者佳。
  • 具備進階 PySpark 技能者佳。
  • 具備進階 Spark 工作流程最佳化及編排技能者佳。
  • 具備 Databricks、雲端架構或資料相關認證者佳。
  • 能夠找出、排查並解決複雜資料問題。
  • 具備良好的協作與溝通能力。
  • 對新工具、新技術及新方法保持好奇並樂於接受。

福利待遇

  • 全職職位。
  • 平等機會且具包容性的工作環境。
  • 致力於多元化。

相關職缺