Senior supportansvarig för AI-plattform hos ClearRoute, hybrid i Storbritannien
Led produktionssupporten för agentbaserade system på Azure hos ClearRoute, ett teknikkonsultbolag. Ansvara för observerbarhet, incidenthantering, tillförlitlighet och plattformsdrift för AI-tjänster.
Beskrivning
- Bygg upp och led supportfunktionen för AI-plattformen
- Övervaka hälsa, svarstider, tillgänglighet och felfrekvenser för AI-tjänster, modellendpunkter och relaterad infrastruktur
- Utred och lös incidenter som API-fel, hastighetsbegränsningar och försämrad kvalitet på modellernas resultat
- Led grundorsaksanalyser och dokumentera skuldfria incidentgranskningar med korrigerande åtgärder
- Delta i den gemensamma beredskapsrotationen för AI-tjänster i produktion
- Skapa och underhåll instrumentpaneler, aviseringar och loggning för LLM-arbetsbelastningar
- Följ upp tokenförbrukning, svarstider, kostnader och utvärderingsresultat
- Förbättra distributionspipelines för modeller, prompter, agenter och RAG-komponenter
- Drifta vektordatabaser, inbäddningsarbetsflöden och jobb för dataimport
- Automatisera återkommande supportaktiviteter och operativa körböcker
- Ge eskaleringsstöd för problem med AI-plattformen som rapporteras av leveransteam och kunder
- Underhåll körböcker, kunskapsbasinnehåll och användardokumentation
- Dela återkommande problem och förbättringsmöjligheter med teknik- och produktansvariga
- Stöd introduktion till plattformen för nya team och kunder
- Definiera teknisk grund, arkitektur och produktinriktning för det bredare AI- och agentprogrammet
Krav
- Minst tre års erfarenhet av plattformsstöd, SRE, DevOps eller produktionssupport för molnbaserade tjänster
- Praktisk erfarenhet av att stödja applikationer som använder LLM-API:er som OpenAI, Anthropic, Azure OpenAI, AWS Bedrock eller Google Vertex AI
- Goda arbetskunskaper i minst en större molnplattform: AWS, Azure eller GCP
- Goda kunskaper i containrar och orkestreringsverktyg, inklusive Docker och Kubernetes
- Förmåga att skripta och automatisera med Python samt Bash eller PowerShell
- Erfarenhet av verktyg för observerbarhet som Datadog, Grafana, Prometheus, CloudWatch eller Azure Monitor
- Erfarenhet av CI/CD och infrastruktur som kod, inklusive GitHub Actions, GitLab CI eller Terraform
- God förståelse för REST-API:er, autentisering, grundläggande nätverk och logganalys
- Dokumenterad erfarenhet av incidenthantering, inklusive framtagning av incidentgranskningar
- Mycket god skriftlig och muntlig kommunikationsförmåga för tekniska och icke-tekniska målgrupper
- Erfarenhet av RAG-arkitekturer och vektordatabaser
- Kännedom om agent- och orkestreringsramverk som LangChain, LlamaIndex eller MCP
- Erfarenhet av plattformar för LLM-observerbarhet och utvärdering som LangSmith, Langfuse, Arize eller Weights & Biases
- Erfarenhet av att hosta eller betjäna modeller med öppna vikter med plattformar som vLLM, Hugging Face eller SageMaker
- Kännedom om AI-styrning och reglering, inklusive EU:s AI-förordning, ISO/IEC 42001 och GDPR
- ITIL-, Kubernetes CKA/CKAD- eller molncertifieringar
- Konsult- eller kundnära leveranserfarenhet, helst inom reglerade branscher som energi eller finansiella tjänster
Förmåner
- Hybrid arbetsform
- Budget för att inrätta ett hemmakontor
- Flexibel ledighet, inklusive ledighet på födelsedagen
- Vinstdelningsprogram
- Uppskattning för goda prestationer och bidrag
- Privat sjukvårdsförsäkring
- Konfidentiellt personalstöd med rådgivning, stöd för psykisk hälsa och ekonomiskt välbefinnande
- Intressebaserade grupper, inklusive löpar- och bokklubbar
- Women in Tech-nätverk
- Månatliga sociala evenemang
- Företagsevenemang över regiongränser
- Personlig utbildningsbudget
- Tillgång till Udemy
- Tydlig karriärmodell
- Möjligheter till intern rörlighet
- Möjligheter att bidra med branschinsikter
- Familjevänlig arbetsplats
- Flexibilitet för medarbetare med omsorgsansvar
- Tillgänglighetsanpassningar under hela intervjuprocessen