Valarian
Valarian
Valarian entwickelt Infrastrukturen für Datensouveränität und Sicherheit für kommerzielle Unternehmen und staatliche Institutionen. Die Plattform richtet sich an Organisationen in den Bereichen Verteidigung, Gesundheitswesen und anderen regulierten Sektoren, die sensible Informationen schützen und gleichzeitig lokale Compliance-Anforderungen erfüllen müssen. Valarian konzentriert sich auf Datenlokalisierung, granulare Zugriffsverwaltung, Nachvollziehbarkeit und Widerstandsfähigkeit gegenüber Cyberbedrohungen, Netzwerkausfällen, Datenlecks und geopolitischen Risiken. Das Unternehmen unterstützt grenzüberschreitend tätige Organisationen dabei, die Kontrolle über ihre Daten zu behalten, ohne ihre Innovations- und Wettbewerbsfähigkeit auf internationalen Märkten einzuschränken.

Senior MLOps Engineer bei Valarian

Betreibe produktive LLM-Anwendungen und agentische KI-Infrastruktur bei Valarian, einem Unternehmen für Dual-Use-Sicherheitstechnologie. Verantworte Kubernetes-Deployments, Observability, Datenpipelines und die Zuverlässigkeit der Services.

Beschreibung

  • Verantworte Deployment, Monitoring, Orchestrierung und Zuverlässigkeit produktiver LLM-Anwendungen und einer agentischen KI-Plattform.
  • Entwirf und betreibe LLM-Services, agentische Anwendungen und unterstützende KI-Workloads auf Kubernetes-Clustern mit hohem Durchsatz.
  • Automatisiere Container-Deployments, skalierbare Inferenz-Endpunkte sowie Blue-Green- und Canary-Releases über CI/CD-Pipelines.
  • Betreue produktive agentische KI-Workflows, einschließlich mehrstufiger Tool-Ausführung, Zustandsverwaltung und Koordination zwischen Agenten.
  • Untersuche und behebe Probleme in der KI-Anwendungslogik, Orchestrierungsframeworks, externen APIs und Cloud-Infrastruktur.
  • Entwickle Monitoring- und Evaluierungssysteme für Ausgabegenauigkeit, Drift, Latenz, Kosten und Halluzinationsmetriken.
  • Schaffe Einblick auf Trace-Ebene in Agenten-Ausführungspfade, einschließlich Prompts, Antworten, Tool-Aufrufen und einzelnen Schritten.
  • Überwache und verbessere Echtzeit- und Batch-Datenpipelines, Feature Stores, Vektorindizes und Embedding-Aktualisierungen.
  • Verwalte GPU- und CPU-Ressourcen, Speicher, Autoscaling und Cloud-Kosten, um die Zeit bis zum ersten Token und den Durchsatz zu verbessern.

Anforderungen

  • Mindestens drei Jahre Berufserfahrung in MLOps, LLMOps, Platform Engineering, KI-Infrastruktur oder SRE mit Schwerpunkt auf Workloads für maschinelles Lernen.
  • Praktische Erfahrung mit dem Deployment und Betrieb komplexer containerisierter Anwendungen im großen Maßstab auf Kubernetes, etwa EKS, GKE, AKS oder Bare Metal.
  • Sehr gute Python-Kenntnisse für Backend-Automatisierung, System-Debugging, individuelle Tools und Integrationen.
  • Erfahrung mit Monitoring- und Logging-Tools wie Prometheus, Grafana, Datadog oder OpenTelemetry sowie mit LLM-Tracking- und Evaluierungsplattformen wie LangSmith, Phoenix/Arize, Langfuse oder TruLens.
  • Vertrautheit mit modernen CI/CD-Systemen wie GitHub Actions, GitLab CI oder ArgoCD und Infrastructure-as-Code-Tools wie Terraform oder Pulumi.
  • Fundiertes Betriebsverständnis agentischer Architekturen, Prompt-Chaining, Function-Calling und Tool-Ausführung sowie des nichtdeterministischen Verhaltens von Anwendungen.
  • Praktische Erfahrung mit Retrieval-Augmented-Generation-(RAG-)Pipelines und produktiven Vektordatenbanken ist von Vorteil.
  • Praktische Vertrautheit mit Frameworks für die Entwicklung und Orchestrierung von Agenten ist von Vorteil.
  • Erfahrung mit leistungsstarken LLM-Serving-Engines und -Frameworks ist von Vorteil.
  • Kenntnisse von KI-Sicherheitspraktiken sowie Rate Limits oder Kostenkontrollen sind von Vorteil.

Zusatzleistungen

  • Anteile am Unternehmen.
  • Wettbewerbsfähiges Gehalt.
  • Arbeitgeberbeiträge zur Altersvorsorge.
  • Private Krankenversicherung.
  • Hybrides Arbeitsmodell.
  • Mitgliedschaften im Fitnessstudio.
  • Firmenausflüge und Treffen, die eine ausgewogene Work-Life-Balance unterstützen.

Ähnliche Stellen

Faculty

Senior Machine-Learning-Ingenieur bei Faculty (Hybrid, UK)

Faculty

Leite die Architektur und Umsetzung produktionsreifer, verantwortungsvoller Machine-Learning-Systeme für Kunden von Faculty aus den Bereichen saubere Energie und Nachhaltigkeit. Berate Kunden, begleite die Bereitstellung und unterstütze andere Ingenieurinnen und Ingenieure als Mentor.

Öffnen