51 – 200 Mitarbeitende
ClearRoute wird auf dieser Jobbörse für Bewerberinnen und Bewerber vorgestellt, die sich über das Unternehmen und seine aktuellen Karrieremöglichkeiten informieren möchten. Im Profil finden Sie die neuesten verfügbaren Informationen zu Stellen und Einstellungsaktivitäten.
Senior-Leitung für den Support der KI-Plattform bei ClearRoute – hybrid im Vereinigten Königreich
Leiten Sie den Produktionssupport für agentenbasierte Systeme auf Azure bei ClearRoute, einer Engineering-Beratung. Verantworten Sie Observability, Incident Response, Zuverlässigkeit und den Plattformbetrieb für KI-Dienste.
Beschreibung
- Aufbau und Leitung der Supportfunktion für die KI-Plattform
- Überwachung von Zustand, Latenz, Verfügbarkeit und Fehlerraten von KI-Diensten, Modellendpunkten und zugehöriger Infrastruktur
- Untersuchung und Behebung von Vorfällen wie API-Ausfällen, Ratenbegrenzungen und nachlassender Qualität von Modellausgaben
- Leitung von Ursachenanalysen und Dokumentation blameless Post-Incident-Reviews mit Korrekturmaßnahmen
- Teilnahme an der gemeinsamen Rufbereitschaft für produktive KI-Dienste
- Erstellung und Pflege von Dashboards, Alarmen und Protokollierung für LLM-Workloads
- Überwachung von Token-Verbrauch, Latenz, Kosten und Evaluierungsergebnissen
- Verbesserung von Deployment-Pipelines für Modelle, Prompts, Agenten und RAG-Komponenten
- Betrieb von Vektordatenbanken, Embedding-Workflows und Datenimportprozessen
- Automatisierung wiederkehrender Supportaufgaben und betrieblicher Runbooks
- Bereitstellung von Eskalationssupport für KI-Plattformprobleme, die von Delivery-Teams und Kunden gemeldet werden
- Pflege von Runbooks, Wissensdatenbankinhalten und Benutzerdokumentation
- Weitergabe wiederkehrender Probleme und Verbesserungspotenziale an Verantwortliche aus Engineering und Produkt
- Unterstützung beim Plattform-Onboarding neuer Teams und Kunden
- Definition der technischen Grundlagen, Architektur und Produktrichtung für das gesamte KI- und agentenbasierte Programm
Anforderungen
- Mindestens drei Jahre Erfahrung im Plattform-Support, in SRE, DevOps oder Produktionssupport für cloudbasierte Dienste
- Praktische Erfahrung mit dem Support von Anwendungen, die LLM-APIs wie OpenAI, Anthropic, Azure OpenAI, AWS Bedrock oder Google Vertex AI nutzen
- Sehr gute praktische Kenntnisse mindestens einer großen Cloud-Plattform: AWS, Azure oder GCP
- Praxiskenntnisse in Containern und Orchestrierungswerkzeugen, einschließlich Docker und Kubernetes
- Fähigkeit zur Skripterstellung und Automatisierung mit Python sowie Bash oder PowerShell
- Erfahrung mit Observability-Tools wie Datadog, Grafana, Prometheus, CloudWatch oder Azure Monitor
- Erfahrung mit CI/CD und Infrastructure as Code, einschließlich GitHub Actions, GitLab CI oder Terraform
- Fundierte Kenntnisse von REST-APIs, Authentifizierung, Netzwerkgrundlagen und Protokollanalyse
- Nachgewiesene Erfahrung im Incident Management, einschließlich der Erstellung von Post-Incident-Reviews
- Sehr gute schriftliche und mündliche Kommunikationsfähigkeiten für technische und nichttechnische Zielgruppen
- Erfahrung mit RAG-Architekturen und Vektordatenbanken
- Vertrautheit mit Agenten- und Orchestrierungsframeworks wie LangChain, LlamaIndex oder MCP
- Erfahrung mit Plattformen für LLM-Observability und -Evaluierung wie LangSmith, Langfuse, Arize oder Weights & Biases
- Erfahrung beim Hosten oder Bereitstellen von Open-Weight-Modellen mit Plattformen wie vLLM, Hugging Face oder SageMaker
- Kenntnisse der KI-Governance und -Regulierung, einschließlich EU-KI-Verordnung, ISO/IEC 42001 und DSGVO
- ITIL-, Kubernetes-CKA/CKAD- oder Cloud-Zertifizierungen
- Beratungs- oder kundennahe Delivery-Erfahrung, vorzugsweise in regulierten Branchen wie Energie oder Finanzdienstleistungen
Zusatzleistungen
- Hybrides Arbeitsmodell
- Budget für die Einrichtung eines Homeoffice
- Flexible freie Tage, einschließlich eines freien Tages zum Geburtstag
- Gewinnbeteiligung
- Anerkennung herausragender Leistungen und Beiträge
- Private Krankenversicherung
- Vertrauliches Mitarbeiterunterstützungsprogramm mit Beratung, Unterstützung bei psychischer Gesundheit und finanzieller Beratung
- Interessengemeinschaften, unter anderem Lauf- und Buchclubs
- Women-in-Tech-Community
- Monatliche gesellschaftliche Veranstaltungen
- Unternehmensveranstaltungen über mehrere Regionen hinweg
- Persönliches Weiterbildungsbudget
- Zugang zu Udemy
- Definiertes Karrieremodell
- Möglichkeiten für interne Wechsel
- Möglichkeiten, Thought Leadership beizutragen
- Familienfreundlicher Arbeitsplatz
- Flexibilität für Mitarbeitende mit Betreuungspflichten
- Barrierefreie Anpassungen während des gesamten Bewerbungsprozesses