Starszy lider wsparcia platformy AI w ClearRoute, praca hybrydowa, Wielka Brytania
Kieruj wsparciem agentowych systemów opartych na Azure w firmie konsultingowej ClearRoute. Odpowiadaj za obserwowalność, reagowanie na incydenty, niezawodność i operacje platformy usług AI.
Opis
- Zbudowanie i kierowanie funkcją wsparcia platformy AI
- Monitorowanie kondycji, opóźnień, dostępności i wskaźników błędów usług AI, punktów końcowych modeli oraz powiązanej infrastruktury
- Badanie i rozwiązywanie incydentów, takich jak awarie API, limity częstotliwości żądań i spadek jakości wyników modeli
- Prowadzenie analiz przyczyn źródłowych oraz dokumentowanie bezwinnych przeglądów po incydentach wraz z działaniami korygującymi
- Udział we wspólnej rotacji dyżurów dla produkcyjnych usług AI
- Tworzenie i utrzymywanie pulpitów, alertów oraz logowania dla obciążeń LLM
- Monitorowanie zużycia tokenów, opóźnień, kosztów i wyników ewaluacji
- Usprawnianie potoków wdrażania modeli, promptów, agentów i komponentów RAG
- Obsługa baz danych wektorowych, procesów tworzenia embeddingów i zadań pozyskiwania danych
- Automatyzowanie cyklicznych działań wsparcia i procedur operacyjnych
- Zapewnianie wsparcia eskalacyjnego w sprawach platformy AI zgłaszanych przez zespoły realizacyjne i klientów
- Utrzymywanie procedur operacyjnych, treści bazy wiedzy i dokumentacji użytkownika
- Przekazywanie właścicielom obszarów inżynieryjnych i produktowych informacji o powtarzających się problemach oraz możliwościach usprawnień
- Wsparcie wdrażania nowych zespołów i klientów na platformę
- Definiowanie podstaw technicznych, architektury i kierunku rozwoju produktu dla szerszego programu AI i systemów agentowych
Wymagania
- Co najmniej trzy lata doświadczenia we wsparciu platform, SRE, DevOps lub wsparciu produkcyjnym usług hostowanych w chmurze
- Praktyczne doświadczenie we wspieraniu aplikacji korzystających z API LLM, takich jak OpenAI, Anthropic, Azure OpenAI, AWS Bedrock lub Google Vertex AI
- Bardzo dobra znajomość co najmniej jednej głównej platformy chmurowej: AWS, Azure lub GCP
- Praktyczna znajomość kontenerów i narzędzi orkiestracji, w tym Dockera i Kubernetes
- Umiejętność tworzenia skryptów i automatyzacji w Pythonie oraz Bashu lub PowerShellu
- Doświadczenie z narzędziami obserwowalności, takimi jak Datadog, Grafana, Prometheus, CloudWatch lub Azure Monitor
- Doświadczenie z CI/CD i infrastrukturą jako kodem, w tym GitHub Actions, GitLab CI lub Terraform
- Dobre rozumienie REST API, uwierzytelniania, podstaw sieci i analizy logów
- Udokumentowane doświadczenie w zarządzaniu incydentami, w tym przygotowywaniu przeglądów po incydentach
- Bardzo dobre umiejętności komunikacji pisemnej i ustnej z odbiorcami technicznymi i nietechnicznymi
- Doświadczenie z architekturami RAG i bazami danych wektorowych
- Znajomość frameworków agentowych i orkiestracyjnych, takich jak LangChain, LlamaIndex lub MCP
- Doświadczenie z platformami obserwowalności i ewaluacji LLM, takimi jak LangSmith, Langfuse, Arize lub Weights & Biases
- Doświadczenie w hostowaniu lub serwowaniu modeli z otwartymi wagami przy użyciu platform takich jak vLLM, Hugging Face lub SageMaker
- Świadomość zagadnień zarządzania AI i regulacji, w tym unijnego aktu w sprawie sztucznej inteligencji, ISO/IEC 42001 i RODO
- Certyfikaty ITIL, Kubernetes CKA/CKAD lub certyfikaty chmurowe
- Doświadczenie konsultingowe lub w realizacji projektów dla klientów, najlepiej w regulowanych branżach, takich jak energetyka lub usługi finansowe
Benefity
- Hybrydowy model pracy
- Budżet na urządzenie domowego biura
- Elastyczny urlop, w tym dzień wolny z okazji urodzin
- Program udziału w zyskach
- Docenianie wysokich wyników i wkładu
- Prywatna opieka zdrowotna
- Poufny program pomocy pracownikom obejmujący konsultacje, wsparcie zdrowia psychicznego i dobrostanu finansowego
- Społeczności zainteresowań, w tym kluby biegowe i czytelnicze
- Społeczność Women in Tech
- Comiesięczne wydarzenia towarzyskie
- Międzyregionalne wydarzenia firmowe
- Budżet na rozwój osobisty
- Dostęp do Udemy
- Zdefiniowana ścieżka kariery
- Możliwości mobilności wewnętrznej
- Możliwości udziału w budowaniu opinii eksperckiej
- Miejsce pracy przyjazne rodzinom
- Elastyczność dla pracowników mających obowiązki opiekuńcze
- Dostosowania dostępności podczas całego procesu rekrutacji