Старший руководитель поддержки AI-платформы в ClearRoute, гибридный формат, Великобритания
Руководите поддержкой агентных систем на базе Azure в инженерно-консалтинговой компании ClearRoute. Отвечайте за наблюдаемость, реагирование на инциденты, надежность и эксплуатацию платформы AI-сервисов.
Описание
- Создавать и возглавлять функцию поддержки AI-платформы
- Отслеживать состояние, задержки, доступность и показатели ошибок AI-сервисов, конечных точек моделей и связанной инфраструктуры
- Исследовать и устранять инциденты, такие как сбои API, ограничения частоты запросов и снижение качества результатов моделей
- Руководить расследованиями первопричин и документировать разборы инцидентов без поиска виноватых с планами корректирующих действий
- Участвовать в общей дежурной ротации для производственных AI-сервисов
- Создавать и поддерживать дашборды, оповещения и журналирование для рабочих нагрузок LLM
- Отслеживать потребление токенов, задержки, затраты и результаты оценивания
- Совершенствовать конвейеры развертывания моделей, промптов, агентов и компонентов RAG
- Эксплуатировать векторные базы данных, процессы создания эмбеддингов и задания по приему данных
- Автоматизировать регулярные операции поддержки и эксплуатационные инструкции
- Оказывать поддержку второй линии по вопросам AI-платформы, о которых сообщают команды реализации и клиенты
- Поддерживать эксплуатационные инструкции, материалы базы знаний и пользовательскую документацию
- Передавать инженерным и продуктовым руководителям информацию о повторяющихся проблемах и возможностях улучшения
- Поддерживать подключение новых команд и клиентов к платформе
- Определять технические основы, архитектуру и направление развития продукта для более широкой программы AI и агентных систем
Требования
- Не менее трех лет опыта в поддержке платформ, SRE, DevOps или производственной поддержке облачных сервисов
- Практический опыт поддержки приложений, использующих API LLM, такие как OpenAI, Anthropic, Azure OpenAI, AWS Bedrock или Google Vertex AI
- Глубокое практическое знание хотя бы одной крупной облачной платформы: AWS, Azure или GCP
- Практические навыки работы с контейнерами и инструментами оркестрации, включая Docker и Kubernetes
- Умение писать скрипты и автоматизировать задачи с помощью Python, а также Bash или PowerShell
- Опыт использования инструментов наблюдаемости, таких как Datadog, Grafana, Prometheus, CloudWatch или Azure Monitor
- Опыт работы с CI/CD и инфраструктурой как кодом, включая GitHub Actions, GitLab CI или Terraform
- Хорошее понимание REST API, аутентификации, основ сетевого взаимодействия и анализа журналов
- Подтвержденный опыт управления инцидентами, включая подготовку разборов после инцидентов
- Сильные навыки письменной и устной коммуникации с технической и нетехнической аудиторией
- Опыт работы с архитектурами RAG и векторными базами данных
- Знакомство с фреймворками для агентов и оркестрации, такими как LangChain, LlamaIndex или MCP
- Опыт работы с платформами наблюдаемости и оценивания LLM, такими как LangSmith, Langfuse, Arize или Weights & Biases
- Опыт размещения или обслуживания моделей с открытыми весами с помощью таких платформ, как vLLM, Hugging Face или SageMaker
- Понимание вопросов управления и регулирования AI, включая Закон ЕС об искусственном интеллекте, ISO/IEC 42001 и GDPR
- Сертификаты ITIL, Kubernetes CKA/CKAD или облачные сертификаты
- Опыт работы в консалтинге или реализации клиентских проектов, предпочтительно в регулируемых отраслях, таких как энергетика или финансовые услуги
Преимущества
- Гибридный формат работы
- Бюджет на обустройство домашнего офиса
- Гибкий отпуск, включая выходной в день рождения
- Программа участия в прибыли
- Признание высоких результатов и вклада
- Частное медицинское страхование
- Конфиденциальная программа помощи сотрудникам, включающая консультации, поддержку психического здоровья и финансового благополучия
- Сообщества по интересам, включая клубы бега и чтения
- Сообщество Women in Tech
- Ежемесячные социальные мероприятия
- Межрегиональные корпоративные мероприятия
- Бюджет на личное обучение
- Доступ к Udemy
- Определенная карьерная структура
- Возможности внутренней мобильности
- Возможности участвовать в формировании экспертного мнения
- Рабочая среда, удобная для семей
- Гибкие условия для сотрудников с обязанностями по уходу
- Адаптационные меры на всех этапах собеседования