Allata
Allata
Allata to globalna firma konsultingowa, która pomaga organizacjom przekładać strategię cyfrową na praktyczne usprawnienia biznesowe. Jej zespoły działają w obszarach strategii, doświadczeń klientów, chmury i technologii, danych oraz sztucznej inteligencji, wspierając klientów w modernizacji, personalizacji i zwiększaniu efektywności operacyjnej. Allata obsługuje sektory motoryzacyjny, ochrony zdrowia, logistyki, usług finansowych i zaawansowanych technologii, korzystając z doświadczenia byłych liderów IT i specjalistów konsultingu przy realizacji złożonych inicjatyw cyfrowych.

Menedżer platformy danych Databricks (praca zdalna, Teksas)

Kieruj architekturą i wdrażaniem zarządzanych platform Lakehouse oraz korporacyjnych hurtowni danych dla Allata. Rozwijaj potoki danych, bezpieczeństwo, skalowalność i tworzenie produktów danych.

Opis

  • Ustalaj architekturę, dobieraj technologie, wzorce referencyjne i schematy integracji dla platform Lakehouse oraz korporacyjnych hurtowni danych.
  • Twórz koncepcyjne, logiczne i fizyczne modele wielodostępnych oraz branżowych produktów danych.
  • Standaryzuj warstwy danych do pozyskiwania, przechowywania surowych danych, ich opracowywania i udostępniania.
  • Wdrażaj praktyki zarządzania metadanymi, katalogami, pochodzeniem danych, umowami danych i klasyfikacją.
  • Określaj zabezpieczenia i mechanizmy zgodności dotyczące dostępu, maskowania, szyfrowania, segmentacji sieci i audytu.
  • Planuj skalowalność platformy, wysoką dostępność, odzyskiwanie po awarii, pojemność i zarządzanie kosztami.
  • Kieruj wyborem i integracją Databricks, Delta Lake, Delta Live Tables, Fivetran, Azure Data Factory lub Data Fabric oraz narzędzi do orkiestracji i monitorowania.
  • Ustalaj i egzekwuj praktyki CI/CD dla zasobów danych, w tym testy, zautomatyzowane wdrożenia i plany wycofania zmian.
  • Określaj podejścia do przetwarzania wsadowego i strumieniowego, kompaktowania, partycjonowania i przechowywania.
  • Ustalaj standardy obserwowalności dla metryk, SLA, pulpitów nawigacyjnych, dzienników, śladów i alertów.
  • Zapewniaj przywództwo techniczne i mentoring zespołom Data Engineering.
  • Weryfikuj architekturę i kod kluczowych komponentów.
  • Współpracuj z właścicielami produktów danych oraz interesariuszami z obszarów bezpieczeństwa, infrastruktury, BI i ML, przekładając wymagania na rozwiązania i plany działania.
  • Twórz, testuj i wdrażaj moduły przetwarzania z użyciem Spark, PySpark lub Scala, Spark SQL i procedur składowanych.
  • Twórz i optymalizuj potoki danych w Databricks i na platformach bazodanowych.
  • Stosuj praktyki DevOps, infrastrukturę jako kod, CI/CD, automatyczne testowanie i kontrolę wersji.
  • Rozwiązuj złożone problemy z jakością, wydajnością i dostępnością danych oraz wprowadzaj ciągłe usprawnienia.

Wymagania

  • Doświadczenie w roli architekta lub lidera technicznego korporacyjnych platform danych.
  • Praktyczna znajomość technologii Databricks, w tym Delta Lake, Unity Catalog, Delta Live Tables, Auto Loader i Structured Streaming.
  • Biegła znajomość Spark, PySpark i/lub Scala, Spark SQL oraz optymalizacji zadań rozproszonych.
  • Doświadczenie w projektowaniu hurtowni danych i platform Lakehouse.
  • Praktyczna znajomość wzorców Medallion, Lambda i Kappa.
  • Doświadczenie w integracji narzędzi SaaS, ETL lub konektorów, takich jak Fivetran.
  • Doświadczenie z narzędziami do orkiestracji, takimi jak Airflow, Azure Data Factory i Data Fabric.
  • Doświadczenie z relacyjnymi i hybrydowymi bazami danych, w tym MS SQL Server, PostgreSQL, Oracle, Azure SQL i AWS RDS/Aurora lub ich odpowiednikami.
  • Biegłość w CI/CD potoków danych z użyciem Azure DevOps, GitHub Actions, Jenkins lub podobnych narzędzi.
  • Doświadczenie w pakowaniu i wdrażaniu artefaktów, takich jak pliki .whl i kontenery.
  • Doświadczenie w przetwarzaniu wsadowym i strumieniowym, kompaktowaniu plików, partycjonowaniu i dostrajaniu przechowywania.
  • Znajomość zagadnień bezpieczeństwa chmury, IAM/RBAC, szyfrowania, koncepcji VPC/VNet i sieci chmurowych.
  • Znajomość narzędzi obserwowalności i monitorowania, takich jak Prometheus, Grafana, Datadog lub natywne usługi chmurowe.
  • Doświadczenie w automatyzacji potoków CI/CD i pracy w modelu trunk-based będzie dodatkowym atutem.
  • Zaawansowana znajomość PySpark będzie dodatkowym atutem.
  • Zaawansowane umiejętności optymalizacji i orkiestracji przepływów Spark będą dodatkowym atutem.
  • Certyfikaty Databricks, architektury chmurowej lub danych będą dodatkowym atutem.
  • Umiejętność identyfikowania, diagnozowania i rozwiązywania złożonych problemów z danymi.
  • Umiejętność współpracy i komunikacji.
  • Ciekawość i otwartość na nowe narzędzia, technologie i metody.

Benefity

  • Praca w pełnym wymiarze godzin.
  • Równe szanse i inkluzywne środowisko pracy.
  • Zaangażowanie w różnorodność.

Powiązane oferty pracy

Lunar Solar Group

Specjalista ds. pomiaru marketingu i analizy danych (zdalnie, USA)

Lunar Solar Group

Twórz modele atrybucji, przyrostowości i media mix dla Lunar Solar Group, firmy doradczej wspierającej wzrost oraz agencji marketingu cyfrowego. Przekuwaj analizy w praktyczne rekomendacje dotyczące budżetów klientów.

Otwórz
Airbnb

Starszy specjalista ds. analizy danych w badaniach People Analytics

Airbnb

Kieruj badaniami z zakresu analityki pracowniczej w Airbnb, wykorzystując wnioskowanie przyczynowe i modelowanie statystyczne do wspierania decyzji dotyczących zatrudnienia, wynagrodzeń, rekrutacji i retencji. Współpracuj z interesariuszami przy analizach i raportowaniu w wrażliwych obszarach.

Otwórz
The Cigna Group

Starszy lider ds. tworzenia rozwiązań danych, praca zdalna (USA)

The Cigna Group

Twórz wielokrotnego użytku produkty danych Silver i Gold dla usług medycznych Cigna z wykorzystaniem Databricks oraz zarządzanych potoków MVP i CI/CD. Przekładaj potrzeby biznesowe na gotowe do wdrożenia rozwiązania i ustanawiaj standardy w obszarze Data Operations.

Otwórz