Старший керівник підтримки AI-платформи в ClearRoute, гібридний формат, Велика Британія
Керуйте підтримкою агентних систем на базі Azure в інженерно-консалтинговій компанії ClearRoute. Відповідайте за спостережуваність, реагування на інциденти, надійність та експлуатацію платформи AI-сервісів.
Опис
- Створювати й очолювати функцію підтримки AI-платформи
- Відстежувати стан, затримки, доступність і показники помилок AI-сервісів, кінцевих точок моделей та пов’язаної інфраструктури
- Досліджувати й усувати інциденти, як-от збої API, обмеження частоти запитів і зниження якості результатів моделей
- Керувати розслідуваннями першопричин і документувати розбори інцидентів без пошуку винних із планами коригувальних дій
- Брати участь у спільній черговій ротації для продуктивних AI-сервісів
- Створювати й підтримувати дашборди, сповіщення та журналювання для робочих навантажень LLM
- Відстежувати споживання токенів, затримки, витрати та результати оцінювання
- Удосконалювати конвеєри розгортання моделей, промптів, агентів і компонентів RAG
- Експлуатувати векторні бази даних, процеси створення ембедингів і завдання з приймання даних
- Автоматизувати регулярні операції підтримки та експлуатаційні інструкції
- Надавати підтримку другої лінії з питань AI-платформи, про які повідомляють команди реалізації та клієнти
- Підтримувати експлуатаційні інструкції, матеріали бази знань і користувацьку документацію
- Передавати інженерним і продуктовим керівникам інформацію про повторювані проблеми та можливості вдосконалення
- Підтримувати підключення нових команд і клієнтів до платформи
- Визначати технічні основи, архітектуру та напрям розвитку продукту для ширшої програми AI й агентних систем
Вимоги
- Щонайменше три роки досвіду в підтримці платформ, SRE, DevOps або продуктивній підтримці хмарних сервісів
- Практичний досвід підтримки застосунків, що використовують API LLM, зокрема OpenAI, Anthropic, Azure OpenAI, AWS Bedrock або Google Vertex AI
- Глибокі практичні знання принаймні однієї основної хмарної платформи: AWS, Azure або GCP
- Практичні навички роботи з контейнерами та інструментами оркестрації, зокрема Docker і Kubernetes
- Уміння створювати скрипти й автоматизувати за допомогою Python, а також Bash або PowerShell
- Досвід використання інструментів спостережуваності, таких як Datadog, Grafana, Prometheus, CloudWatch або Azure Monitor
- Досвід роботи з CI/CD та інфраструктурою як кодом, зокрема GitHub Actions, GitLab CI або Terraform
- Ґрунтовне розуміння REST API, автентифікації, основ мереж і аналізу журналів
- Підтверджений досвід керування інцидентами, включно з підготовкою розборів після інцидентів
- Сильні навички письмової та усної комунікації з технічною і нетехнічною аудиторією
- Досвід роботи з архітектурами RAG і векторними базами даних
- Знайомство з фреймворками для агентів та оркестрації, такими як LangChain, LlamaIndex або MCP
- Досвід роботи з платформами спостережуваності й оцінювання LLM, такими як LangSmith, Langfuse, Arize або Weights & Biases
- Досвід розміщення або обслуговування моделей із відкритими вагами за допомогою платформ, таких як vLLM, Hugging Face або SageMaker
- Розуміння питань управління та регулювання AI, зокрема Закону ЄС про штучний інтелект, ISO/IEC 42001 і GDPR
- Сертифікації ITIL, Kubernetes CKA/CKAD або хмарні сертифікації
- Досвід роботи в консалтингу або реалізації клієнтських проєктів, бажано в регульованих галузях, таких як енергетика чи фінансові послуги
Переваги
- Гібридний формат роботи
- Бюджет на облаштування домашнього офісу
- Гнучка відпустка, включно з вихідним у день народження
- Програма участі в прибутку
- Визнання високих результатів і внеску
- Приватне медичне страхування
- Конфіденційна програма допомоги працівникам, що охоплює консультування, підтримку психічного здоров’я та фінансового добробуту
- Спільноти за інтересами, зокрема клуби бігу та читання
- Спільнота Women in Tech
- Щомісячні соціальні заходи
- Міжрегіональні корпоративні заходи
- Бюджет на особисте навчання
- Доступ до Udemy
- Визначена кар’єрна структура
- Можливості внутрішньої мобільності
- Можливості долучатися до формування експертної думки
- Сімейно орієнтоване робоче середовище
- Гнучкість для працівників із обов’язками з догляду
- Адаптації на всіх етапах процесу співбесіди