Johnson & Johnson — глобальная медицинская компания, работающая в сфере инновационных лекарственных препаратов и медицинских технологий. Её команды разрабатывают решения в области онкологии, иммунологии, неврологии, специализированной офтальмологии, интервенционной медицины и ортопедии, объединяя науку и технологии для решения сложных задач в сфере здравоохранения. Компания также уделяет особое внимание равенству в вопросах здоровья, экологической устойчивости, многообразию и инклюзивности, помогая медицинским специалистам, пациентам и сообществам по всему миру.
Ведущий инженер по эксплуатации ИИ — гибридный формат, Милан
Ведущий инженер по эксплуатации ИИ отвечает за безопасную, наблюдаемую и экономически эффективную работу ИИ-систем в Johnson & Johnson. Роль поддерживает промышленные ИИ-приложения в Милане, Мадриде и Лиссабоне.
Описание
- Проектировать и внедрять комплексную наблюдаемость для ИИ-приложений и агентов
- Стандартизировать телеметрию и распределённую трассировку рабочих процессов агентов, API, сервисов данных, векторных хранилищ, конечных точек моделей и внешних инструментов
- Разрабатывать панели мониторинга и оповещения для контроля доступности, задержек, ошибок, надёжности, качества, нарушений политик, потребления и состояния сервисов
- Определять индикаторы и цели уровня сервиса, бюджеты ошибок, пороги оповещений и стандарты эксплуатационной готовности
- Поддерживать отладку на основе трассировок, реконструкцию инцидентов и контролируемое воспроизведение сессий с защитой конфиденциальных данных
- Отслеживать качество поиска, актуальность данных, регрессии моделей и промптов, аномальные циклы агентов, деградацию инструментов и другое непредвиденное поведение во время выполнения
- Руководить расследованиями первопричин инцидентов ИИ-платформы и среды выполнения, а затем внедрять профилактические улучшения и средства контроля
- Создавать повторно используемые конвейеры, шаблоны и средства контроля для версионирования конфигураций, промптов, моделей и компонентов агентов
- Внедрять автоматизированные ворота развёртывания, интеграционное тестирование, проверку регрессий, проверки безопасности и проверки покрытия наблюдаемостью
- Поддерживать канареечные развёртывания, функциональные флаги, маршрутизацию моделей и провайдеров, резервные варианты и процедуры отката
- Разрабатывать эксплуатационные инструменты для нескольких моделей, фреймворков, облачных сред и архитектур агентов
- Поддерживать руководства по эксплуатации, эталонные реализации, инженерные стандарты и практики сопровождения промышленной эксплуатации
- Внедрять измерение и распределение потребления, внутреннее возмещение затрат, бюджеты, пороги, оповещения об аномалиях и средства контроля выполнения для потребления ИИ
- Работать с продуктовыми командами над оптимизацией выбора моделей, маршрутизации, размера контекста, кэширования, пакетной обработки, повторных попыток и использования инструментов
- Интегрировать безопасность, конфиденциальность, ответственное использование ИИ, соответствие требованиям, управление идентификацией и доступом, работу с секретами и аудитируемость в среду выполнения ИИ
- Разрабатывать защиту от внедрения промптов, обхода ограничений, несанкционированного использования инструментов, чрезмерных разрешений, утечки данных, небезопасных путей выполнения и аномального доступа
- Определять операционные процедуры для мониторинга, поддержки, инцидентов, проблем, изменений, эскалаций и восстановления сервисов
- Создавать контрольные списки готовности к промышленной эксплуатации, критерии приёмки, руководства для дежурств, маршруты эскалации, процедуры восстановления и требования к непрерывности бизнеса
- Автоматизировать операционные процессы, чтобы сократить объём ручной реконструкции и ускорить обнаружение, диагностику, локализацию и восстановление
- Готовить техническую документацию и обучать инженерные команды утверждённым операционным практикам
- Выполнять роль технического связующего звена между командами ИИ, платформ, облачной инфраструктуры, данных, архитектуры, кибербезопасности, конфиденциальности, соответствия требованиям и управления сервисами
- Определять и отслеживать ключевые показатели эффективности надёжности, наблюдаемости, работы с инцидентами, экономической эффективности, покрытия средствами контроля, аудиторских свидетельств и внедрения платформы
- Использовать операционные данные для приоритизации автоматизации, повышения надёжности, оптимизации затрат и снижения рисков
Требования
- Степень бакалавра или магистра в области компьютерных наук, инженерии, искусственного интеллекта или смежной области либо эквивалентный релевантный опыт
- Не менее пяти лет практического опыта в разработке платформ, обеспечении надёжности сайтов, DevOps, DevSecOps, MLOps или промышленной разработке ПО с ответственностью за работающие сервисы
- Практический опыт эксплуатации в промышленной среде систем машинного обучения, генеративного ИИ или агентных систем
- Практическое владение Python, API, инфраструктурой как кодом и инструментами CI/CD, такими как Terraform, GitHub Actions или Azure DevOps
- Опыт работы с облачными платформами, контейнерами, оркестрацией и корпоративными облачными сервисами; опыт работы с Azure особенно приветствуется
- Опыт внедрения наблюдаемости с использованием журналов, метрик, распределённых трассировок, панелей мониторинга и оповещений; предпочтительно знание OpenTelemetry или сопоставимых стандартов
- Глубокое понимание шаблонов приложений на базе больших языковых моделей, включая RAG, векторные хранилища, шлюзы моделей, вызов инструментов, память агентов и оркестрацию нескольких агентов
- Рабочие знания управления идентификацией и доступом, управления секретами, безопасного журналирования, моделирования угроз, конфиденциальности по замыслу и аудиторских средств контроля
- Способность превращать неоднозначные операционные потребности и требования к контролю в повторно используемые технические возможности, стандарты, автоматизацию и руководства по эксплуатации
- Развитые навыки управления заинтересованными сторонами, технической коммуникации и документирования
- Предпочтителен опыт работы в регулируемых отраслях с формальными требованиями к безопасности, конфиденциальности, качеству, валидации, рискам или аудиту
- Предпочтителен практический опыт работы с Azure OpenAI, Azure AI Foundry, Azure Monitor, Application Insights, Microsoft Fabric или сопоставимыми облачными сервисами
- Предпочтителен опыт работы с платформами наблюдаемости или оценки ИИ, такими как Langfuse, LangSmith, Arize, MLflow или эквивалентными инструментами
- Предпочтителен опыт эксплуатации нескольких провайдеров моделей, мультиоблачных сервисов или фреймворков агентов
- Предпочтительны знания FinOps, распределения облачных затрат, бюджетирования и измерения удельной экономики ИИ-нагрузок
- Предпочтителен опыт определения целей уровня сервиса, моделей дежурств, управления инцидентами и контрольных этапов эксплуатационной готовности для корпоративных платформ
Преимущества
- Ежегодный бонус с целевым размером, определяемым уровнем оплаты и местоположением, на основе индивидуальных результатов и результатов компании
- Право на отпуск
- Не менее 12 недель отпуска по уходу за ребёнком
- Отпуск в связи с утратой близкого человека
- Отпуск по уходу за членом семьи
- Отпуск для волонтёрской деятельности
- Компенсация расходов на благополучие
- Программы финансового, физического и психического здоровья
- Премии за юбилей работы и признание заслуг
- Страховые планы для сотрудников и в некоторых местоположениях для соответствующих требованиям иждивенцев