Johnson & Johnson ist ein global tätiges Gesundheitsunternehmen, das in den Bereichen innovative Arzneimittel und Medizintechnik arbeitet. Die Teams entwickeln Lösungen in der Onkologie, Immunologie, Neurowissenschaften, spezialisierten Augenheilkunde, interventionellen Versorgung und Orthopädie und verbinden Wissenschaft und Technologie, um komplexe gesundheitliche Herausforderungen zu bewältigen. Darüber hinaus legt das Unternehmen Wert auf gesundheitliche Chancengleichheit, ökologische Nachhaltigkeit, Vielfalt und Inklusion und unterstützt Gesundheitsdienstleister, Patientinnen und Patienten sowie Gemeinschaften weltweit.
Leitende/r Ingenieur/in für KI-Betrieb – Hybrid in Mailand
Als leitende/r Ingenieur/in für KI-Betrieb verantworten Sie den sicheren, transparenten und kosteneffizienten Betrieb von KI-Systemen bei Johnson & Johnson. Die Rolle unterstützt produktive KI-Anwendungen in Mailand, Madrid und Lissabon.
Italien48.600 € – 77.395 € / Jahr
HybridVollzeitSeniorErforderliche Sprache: EnglischKI-IngenieurMachine-Learning-IngenieurBeschreibung
- Eine umfassende Beobachtbarkeit für KI-Anwendungen und -Agenten konzipieren und bereitstellen
- Telemetrie und verteiltes Tracing über Agenten-Workflows, APIs, Datendienste, Vektorspeicher, Modellendpunkte und externe Tools standardisieren
- Dashboards und Warnmeldungen für Verfügbarkeit, Latenz, Fehler, Zuverlässigkeit, Qualität, Richtlinienverstöße, Verbrauch und Servicezustand entwickeln
- Service-Level-Indikatoren, -Ziele, Fehlerbudgets, Warnschwellen und Standards für die Betriebsbereitschaft etablieren
- Trace-basiertes Debugging, die Rekonstruktion von Vorfällen und kontrollierte Sitzungswiedergaben unterstützen und dabei sensible Daten schützen
- Abrufqualität, Datenaktualität, Regressionen bei Modellen und Prompts, anomale Agentenschleifen, Beeinträchtigungen von Tools und anderes unerwartetes Laufzeitverhalten überwachen
- Ursachenanalysen für Vorfälle auf der KI-Plattform und in der Laufzeitumgebung leiten und anschließend präventive Verbesserungen und Kontrollen umsetzen
- Wiederverwendbare Pipelines, Vorlagen und Kontrollen für die Versionierung von Konfigurationen, Prompts, Modellen und Agentenkomponenten erstellen
- Automatisierte Bereitstellungssperren, Integrationstests, Regressionsvalidierung, Sicherheitsprüfungen und Kontrollen zur Abdeckung der Beobachtbarkeit einführen
- Canary-Bereitstellungen, Feature-Flags, Modell- und Anbieterrouting, Fallback-Optionen und Rollback-Verfahren unterstützen
- Betriebswerkzeuge für mehrere Modelle, Frameworks, Cloud-Umgebungen und Agentenarchitekturen entwickeln
- Runbooks, Referenzimplementierungen, Engineering-Standards und Praktiken für den Produktionssupport pflegen
- Messung, Zuordnung, Showback, Budgets, Schwellenwerte, Anomaliewarnungen und Laufzeitkontrollen für den KI-Verbrauch implementieren
- Mit Produktteams zusammenarbeiten, um Modellauswahl, Routing, Kontextgröße, Caching, Batch-Verarbeitung, Wiederholungsversuche und Tool-Nutzung zu optimieren
- Sicherheit, Datenschutz, verantwortungsvolle KI, Compliance, Identität, Zugriffsverwaltung, Geheimnisverwaltung und Auditierbarkeit in die KI-Laufzeit integrieren
- Schutzmaßnahmen gegen Prompt-Injection, Jailbreaks, unbefugte Tool-Nutzung, übermäßige Berechtigungen, Datenabfluss, unsichere Ausführungspfade und anomale Zugriffe entwickeln
- Betriebsverfahren für Überwachung, Support, Vorfälle, Probleme, Änderungen, Eskalationen und die Wiederherstellung von Services definieren
- Checklisten für die Produktionsbereitschaft, Abnahmekriterien, On-Call-Runbooks, Eskalationswege, Wiederherstellungsverfahren und Anforderungen an die Geschäftskontinuität erstellen
- Betriebsprozesse automatisieren, um Rekonstruktionsaufwand zu reduzieren und Erkennung, Diagnose, Eindämmung und Wiederherstellung zu beschleunigen
- Technische Dokumentation erstellen und Engineering-Teams in freigegebenen Betriebspraktiken schulen
- Als technische Schnittstelle die Teams für KI, Plattform, Cloud, Daten, Architektur, Cybersicherheit, Datenschutz, Compliance und Servicemanagement verbinden
- KPIs für Zuverlässigkeit, Beobachtbarkeit, Vorfallleistung, Kosteneffizienz, Kontrollabdeckung, Prüfungsnachweise und Plattformnutzung definieren und verfolgen
- Betriebsdaten nutzen, um Automatisierung, Zuverlässigkeitssteigerungen, Kostenoptimierung und Risikoreduzierung zu priorisieren
Anforderungen
- Bachelor- oder Masterabschluss in Informatik, Ingenieurwesen, künstlicher Intelligenz oder einem verwandten Fachgebiet oder gleichwertige einschlägige Erfahrung
- Mindestens fünf Jahre praktische Erfahrung in Plattform-Engineering, Site Reliability Engineering, DevOps, DevSecOps, MLOps oder produktiver Softwareentwicklung mit Verantwortung für laufende Services
- Praktische Erfahrung mit dem Betrieb von Machine-Learning-, generativen KI- oder agentenbasierten Systemen in der Produktion
- Sichere praktische Kenntnisse in Python, APIs, Infrastructure as Code und CI/CD-Tools wie Terraform, GitHub Actions oder Azure DevOps
- Erfahrung mit cloudnativen Plattformen, Containern, Orchestrierung und Cloud-Services für Unternehmen; Azure-Erfahrung ist besonders erwünscht
- Erfahrung mit der Umsetzung von Beobachtbarkeit durch Logs, Metriken, verteilte Traces, Dashboards und Warnmeldungen; OpenTelemetry oder vergleichbare Standards sind wünschenswert
- Ausgeprägtes Verständnis von Mustern für LLM-Anwendungen, einschließlich RAG, Vektorspeichern, Modell-Gateways, Tool-Aufrufen, Agentengedächtnis und Multi-Agenten-Orchestrierung
- Arbeitskenntnisse in Identitäts- und Zugriffsverwaltung, Geheimnisverwaltung, sicherer Protokollierung, Bedrohungsmodellierung, Datenschutz durch Technikgestaltung und Audit-Kontrollen
- Fähigkeit, unklare betriebliche und kontrollbezogene Anforderungen in wiederverwendbare technische Funktionen, Standards, Automatisierung und Runbooks zu überführen
- Ausgeprägte Fähigkeiten im Stakeholder-Management, in der technischen Kommunikation und in der Dokumentation
- Erfahrung in regulierten Branchen mit formalen Anforderungen an Sicherheit, Datenschutz, Qualität, Validierung, Risiken oder Audits ist wünschenswert
- Praktische Erfahrung mit Azure OpenAI, Azure AI Foundry, Azure Monitor, Application Insights, Microsoft Fabric oder vergleichbaren Cloud-Services ist wünschenswert
- Erfahrung mit Plattformen zur KI-Beobachtbarkeit oder -Evaluierung wie Langfuse, LangSmith, Arize, MLflow oder gleichwertigen Tools ist wünschenswert
- Erfahrung mit dem Betrieb mehrerer Modellanbieter, Multi-Cloud-Services oder Agenten-Frameworks ist wünschenswert
- Kenntnisse in FinOps, Cloud-Kostenverteilung, Budgetierung und der Messung der Stückökonomie von KI-Workloads sind wünschenswert
- Erfahrung mit der Definition von Service-Level-Zielen, On-Call-Modellen, Vorfallmanagement und Gates für die Betriebsbereitschaft von Unternehmensplattformen ist wünschenswert
Zusatzleistungen
- Jährlicher Bonus mit einem Zielwert, der von Vergütungsstufe und Standort abhängt und auf individueller sowie Unternehmensleistung basiert
- Urlaubsanspruch
- Mindestens 12 Wochen Elternzeit
- Sonderurlaub im Trauerfall
- Pflegezeit
- Sonderurlaub für ehrenamtliches Engagement
- Erstattung für Maßnahmen zum Wohlbefinden
- Programme für finanzielle, körperliche und mentale Gesundheit
- Auszeichnungen zum Dienstjubiläum und zur Anerkennung
- Versicherungspläne für Mitarbeitende und an einigen Standorten für berechtigte Angehörige