Vedúci podpory AI platformy v ClearRoute – hybridná práca v Spojenom kráľovstve
Veďte produkčnú podporu agentických systémov na platforme Azure v spoločnosti ClearRoute, inžinierskej poradenskej firme. Zodpovedajte za monitorovanie, riešenie incidentov, spoľahlivosť a prevádzku platformy pre služby AI.
Popis
- Vybudovať a viesť funkciu podpory AI platformy
- Sledovať stav, latenciu, dostupnosť a chybovosť služieb AI, modelových endpointov a súvisiacej infraštruktúry
- Preskúmavať a riešiť incidenty, ako sú zlyhania API, limity požiadaviek a klesajúca kvalita výstupov modelov
- Viesť analýzy hlavnej príčiny a dokumentovať nestranné kontroly po incidentoch s nápravnými opatreniami
- Zapájať sa do spoločnej pohotovostnej služby pre produkčné služby AI
- Vytvárať a udržiavať dashboardy, upozornenia a protokolovanie pre pracovné zaťaženia LLM
- Sledovať spotrebu tokenov, latenciu, náklady a výsledky hodnotení
- Zlepšovať procesy nasadzovania modelov, promptov, agentov a komponentov RAG
- Prevádzkovať vektorové databázy, pracovné postupy vytvárania embeddingov a úlohy príjmu dát
- Automatizovať opakujúce sa podporné činnosti a prevádzkové postupy
- Poskytovať eskalačnú podporu pri problémoch AI platformy nahlásených realizačnými tímami a klientmi
- Udržiavať prevádzkové postupy, obsah znalostnej databázy a používateľskú dokumentáciu
- Zdieľať opakujúce sa problémy a príležitosti na zlepšenie s vlastníkmi inžinierstva a produktov
- Podporovať zavádzanie platformy pre nové tímy a klientov
- Definovať technické základy, architektúru a produktové smerovanie širšieho programu AI a agentických systémov
Požiadavky
- Aspoň tri roky skúseností s podporou platforiem, SRE, DevOps alebo produkčnou podporou cloudových služieb
- Praktické skúsenosti s podporou aplikácií využívajúcich API LLM, ako sú OpenAI, Anthropic, Azure OpenAI, AWS Bedrock alebo Google Vertex AI
- Pokročilá pracovná znalosť aspoň jednej hlavnej cloudovej platformy: AWS, Azure alebo GCP
- Pracovná znalosť kontajnerov a nástrojov na orchestráciu vrátane Dockeru a Kubernetes
- Schopnosť skriptovať a automatizovať v Pythone a v Bash alebo PowerShelli
- Skúsenosti s nástrojmi na monitorovanie, ako sú Datadog, Grafana, Prometheus, CloudWatch alebo Azure Monitor
- Skúsenosti s CI/CD a infraštruktúrou ako kódom vrátane GitHub Actions, GitLab CI alebo Terraformu
- Dobré znalosti REST API, autentifikácie, základov sieťovania a analýzy logov
- Preukázateľné skúsenosti s riadením incidentov vrátane prípravy kontrol po incidentoch
- Vynikajúce písomné a ústne komunikačné schopnosti pri komunikácii s technickým aj netechnickým publikom
- Skúsenosti s architektúrami RAG a vektorovými databázami
- Znalosť agentových a orchestračných frameworkov, ako sú LangChain, LlamaIndex alebo MCP
- Skúsenosti s platformami na monitorovanie a hodnotenie LLM, ako sú LangSmith, Langfuse, Arize alebo Weights & Biases
- Skúsenosti s hosťovaním alebo poskytovaním open-weight modelov pomocou platforiem, ako sú vLLM, Hugging Face alebo SageMaker
- Povedomie o správe AI a regulácii vrátane nariadenia EÚ o AI, ISO/IEC 42001 a GDPR
- Certifikácia ITIL, Kubernetes CKA/CKAD alebo cloudová certifikácia
- Skúsenosti z poradenstva alebo z realizácie projektov pre klientov, ideálne v regulovaných odvetviach, ako sú energetika alebo finančné služby
Benefity
- Hybridný spôsob práce
- Rozpočet na vybavenie domácej kancelárie
- Flexibilné voľno vrátane voľna na narodeniny
- Program podielu na zisku
- Uznanie za vynikajúci výkon a prínos
- Súkromná zdravotná starostlivosť
- Dôverná pomoc zamestnancom zahŕňajúca poradenstvo, podporu duševného zdravia a finančnej pohody
- Komunity podľa záujmov vrátane bežeckého a knižného klubu
- Komunita Women in Tech
- Mesačné spoločenské podujatia
- Celofiremné podujatia naprieč regiónmi
- Rozpočet na osobné vzdelávanie
- Prístup k Udemy
- Jasne definovaný kariérny rámec
- Možnosti internej mobility
- Možnosti prispievať k odbornému vedeniu
- Pracovisko priateľské k rodinám
- Flexibilita pre zamestnancov so starostlivými povinnosťami
- Úpravy a podpora prístupnosti počas celého výberového procesu