Senioransvarlig for AI-plattformstøtte hos ClearRoute, hybrid i Storbritannia
Led produksjonsstøtten for agentbaserte systemer på Azure hos ClearRoute, et ingeniørkonsulentselskap. Ha ansvar for observability, hendelseshåndtering, pålitelighet og plattformdrift for AI-tjenester.
Beskrivelse
- Bygg opp og led støttefunksjonen for AI-plattformen
- Følg med på helse, responstid, tilgjengelighet og feilrater for AI-tjenester, modellendepunkter og tilhørende infrastruktur
- Undersøk og løs hendelser som API-feil, hastighetsbegrensninger og redusert kvalitet på modellresultater
- Led undersøkelser av grunnårsaker og dokumenter skyldfrie gjennomganger etter hendelser med korrigerende tiltak
- Delta i den delte vaktordningen for AI-tjenester i produksjon
- Opprett og vedlikehold dashbord, varsler og logging for LLM-arbeidsbelastninger
- Følg med på tokenforbruk, responstid, kostnader og evalueringsresultater
- Forbedre utrullingspipelines for modeller, prompter, agenter og RAG-komponenter
- Drift vektordatabaser, embedding-arbeidsflyter og jobber for datainnhenting
- Automatiser tilbakevendende støtteaktiviteter og driftsveiledninger
- Gi eskaleringsstøtte for AI-plattformproblemer som rapporteres av leveranseteam og kunder
- Vedlikehold driftsveiledninger, innhold i kunnskapsbasen og brukerdokumentasjon
- Del tilbakevendende problemer og forbedringsmuligheter med tekniske og produktansvarlige
- Støtt onboarding til plattformen for nye team og kunder
- Definer det tekniske fundamentet, arkitekturen og produktretningen for det bredere AI- og agentprogrammet
Krav
- Minst tre års erfaring med plattformstøtte, SRE, DevOps eller produksjonsstøtte for skybaserte tjenester
- Praktisk erfaring med å støtte applikasjoner som bruker LLM-API-er som OpenAI, Anthropic, Azure OpenAI, AWS Bedrock eller Google Vertex AI
- God arbeidskunnskap i minst én større skyplattform: AWS, Azure eller GCP
- Arbeidskunnskap med containere og orkestreringsverktøy, inkludert Docker og Kubernetes
- Evne til å skripte og automatisere med Python samt Bash eller PowerShell
- Erfaring med observability-verktøy som Datadog, Grafana, Prometheus, CloudWatch eller Azure Monitor
- Erfaring med CI/CD og infrastruktur som kode, inkludert GitHub Actions, GitLab CI eller Terraform
- God forståelse av REST-API-er, autentisering, grunnleggende nettverk og logganalyse
- Dokumentert erfaring med hendelseshåndtering, inkludert utarbeidelse av gjennomganger etter hendelser
- Svært gode skriftlige og muntlige kommunikasjonsevner for tekniske og ikke-tekniske målgrupper
- Erfaring med RAG-arkitekturer og vektordatabaser
- Kjennskap til agent- og orkestreringsrammeverk som LangChain, LlamaIndex eller MCP
- Erfaring med plattformer for LLM-observability og evaluering som LangSmith, Langfuse, Arize eller Weights & Biases
- Erfaring med hosting eller kjøring av modeller med åpne vekter ved hjelp av plattformer som vLLM, Hugging Face eller SageMaker
- Kjennskap til AI-styring og regulering, inkludert EUs AI-forordning, ISO/IEC 42001 og GDPR
- ITIL-, Kubernetes CKA/CKAD- eller skysertifiseringer
- Konsulent- eller kunderettet leveranseerfaring, helst i regulerte bransjer som energi eller finansielle tjenester
Fordeler
- Hybrid arbeidsordning
- Budsjett for etablering av hjemmekontor
- Fleksibel fritid, inkludert fri på bursdagen din
- Overskuddsdelingsordning
- Anerkjennelse for gode prestasjoner og bidrag
- Privat helseforsikring
- Konfidensiell medarbeiderstøtte som dekker rådgivning, psykisk helse og økonomisk velvære
- Interessebaserte fellesskap, inkludert løpe- og bokklubber
- Women in Tech-fellesskap
- Månedlige sosiale arrangementer
- Bedriftsarrangementer på tvers av regioner
- Personlig læringsbudsjett
- Tilgang til Udemy
- Tydelig karriererammeverk
- Muligheter for intern mobilitet
- Muligheter til å bidra med tankelederskap
- Familievennlig arbeidsplass
- Fleksibilitet for ansatte med omsorgsansvar
- Tilrettelegging for tilgjengelighet gjennom hele intervjuprosessen