Seniorní vedoucí podpory AI platformy v ClearRoute, hybridní práce, Spojené království
Veďte podporu agentních systémů založených na Azure v inženýrské poradenské společnosti ClearRoute. Odpovídejte za observabilitu, reakci na incidenty, spolehlivost a provoz platformy AI služeb.
Popis
- Vybudovat a vést funkci podpory AI platformy
- Sledovat stav, latenci, dostupnost a chybovost AI služeb, koncových bodů modelů a související infrastruktury
- Vyšetřovat a řešit incidenty, jako jsou selhání API, limity frekvence požadavků a klesající kvalita výstupů modelů
- Vést analýzy kořenových příčin a dokumentovat postincidentní přezkumy bez hledání viníka včetně nápravných opatření
- Zapojit se do společné pohotovostní rotace pro produkční AI služby
- Vytvářet a udržovat dashboardy, upozornění a logování pro pracovní zátěže LLM
- Sledovat spotřebu tokenů, latenci, náklady a výsledky evaluace
- Zlepšovat pipeline pro nasazování modelů, promptů, agentů a komponent RAG
- Provozovat vektorové databáze, procesy tvorby embeddingů a úlohy pro ingest dat
- Automatizovat opakující se činnosti podpory a provozní postupy
- Poskytovat eskalační podporu pro problémy AI platformy hlášené realizačními týmy a klienty
- Udržovat provozní postupy, obsah znalostní báze a uživatelskou dokumentaci
- Sdílet opakující se problémy a příležitosti ke zlepšení s vlastníky inženýrství a produktů
- Podporovat onboarding nových týmů a klientů na platformu
- Definovat technické základy, architekturu a produktové směřování širšího programu AI a agentních systémů
Požadavky
- Nejméně tři roky zkušeností s podporou platforem, SRE, DevOps nebo produkční podporou cloudových služeb
- Praktická zkušenost s podporou aplikací využívajících API LLM, jako jsou OpenAI, Anthropic, Azure OpenAI, AWS Bedrock nebo Google Vertex AI
- Velmi dobrá pracovní znalost alespoň jedné hlavní cloudové platformy: AWS, Azure nebo GCP
- Praktická znalost kontejnerů a nástrojů orchestrace včetně Dockeru a Kubernetes
- Schopnost skriptovat a automatizovat v Pythonu a také v Bash nebo PowerShellu
- Zkušenost s nástroji observability, jako jsou Datadog, Grafana, Prometheus, CloudWatch nebo Azure Monitor
- Zkušenost s CI/CD a infrastrukturou jako kódem včetně GitHub Actions, GitLab CI nebo Terraformu
- Dobré porozumění REST API, autentizaci, základům sítí a analýze logů
- Prokazatelná zkušenost s řízením incidentů včetně přípravy postincidentních přezkumů
- Výborné písemné a ústní komunikační dovednosti pro technické i netechnické publikum
- Zkušenost s architekturami RAG a vektorovými databázemi
- Znalost frameworků pro agenty a orchestraci, jako jsou LangChain, LlamaIndex nebo MCP
- Zkušenost s platformami pro observabilitu a evaluaci LLM, jako jsou LangSmith, Langfuse, Arize nebo Weights & Biases
- Zkušenost s hostováním nebo poskytováním modelů s otevřenými vahami na platformách, jako jsou vLLM, Hugging Face nebo SageMaker
- Povědomí o správě a regulaci AI včetně aktu EU o umělé inteligenci, ISO/IEC 42001 a GDPR
- Certifikace ITIL, Kubernetes CKA/CKAD nebo cloudové certifikace
- Zkušenost z poradenství nebo realizace projektů pro klienty, ideálně v regulovaných odvětvích, jako je energetika nebo finanční služby
Benefity
- Hybridní způsob práce
- Rozpočet na vybavení domácí kanceláře
- Flexibilní volno včetně volna v den narozenin
- Program podílu na zisku
- Ocenění za vysoký výkon a přínos
- Soukromá zdravotní péče
- Důvěrný program pomoci zaměstnancům zahrnující poradenství, podporu duševního zdraví a finančního blaha
- Komunity podle zájmů včetně běžeckých a knižních klubů
- Komunita Women in Tech
- Měsíční společenské akce
- Meziregionální firemní akce
- Osobní vzdělávací rozpočet
- Přístup k Udemy
- Definovaný kariérní rámec
- Možnosti interní mobility
- Možnosti podílet se na odborném vedení diskuse
- Pracoviště přátelské k rodinám
- Flexibilita pro zaměstnance s pečovatelskými povinnostmi
- Úpravy pro zajištění přístupnosti v průběhu celého pohovoru