Ръководител поддръжка на AI платформа в ClearRoute – хибридна работа във Великобритания
Ръководете производствената поддръжка на агентни системи, базирани на Azure, в инженерната консултантска компания ClearRoute. Ще отговаряте за наблюдението, реакцията при инциденти, надеждността и операциите на платформата за AI услуги.
Описание
- Изграждане и ръководене на функцията за поддръжка на AI платформата
- Проследяване на състоянието, латентността, наличността и нивата на грешки на AI услугите, крайните точки на моделите и свързаната инфраструктура
- Разследване и разрешаване на инциденти като откази на API, ограничения на честотата на заявките и влошено качество на изхода на моделите
- Ръководене на анализи на първопричините и документиране на безпристрастни прегледи след инциденти с коригиращи действия
- Участие в общото дежурство за производствените AI услуги
- Създаване и поддръжка на табла, известия и регистрация на събития за работни натоварвания с LLM
- Проследяване на потреблението на токени, латентността, разходите и резултатите от оценяването
- Подобряване на конвейерите за внедряване на модели, подсказки, агенти и RAG компоненти
- Експлоатация на векторни бази данни, работни процеси за създаване на embeddings и задачи за приемане на данни
- Автоматизиране на повтарящи се дейности по поддръжката и оперативни процедури
- Осигуряване на ескалационна поддръжка за проблеми с AI платформата, докладвани от екипи за доставка и клиенти
- Поддръжка на оперативни процедури, съдържание на базата от знания и потребителска документация
- Споделяне на повтарящи се проблеми и възможности за подобрение с отговорниците за инженеринг и продукти
- Подпомагане на въвеждането на платформата за нови екипи и клиенти
- Определяне на техническите основи, архитектурата и продуктовата посока на по-широката програма за AI и агентни системи
Изисквания
- Най-малко три години опит в поддръжка на платформи, SRE, DevOps или производствена поддръжка на облачни услуги
- Практически опит в поддръжката на приложения, които използват LLM API като OpenAI, Anthropic, Azure OpenAI, AWS Bedrock или Google Vertex AI
- Добро работно познаване на поне една основна облачна платформа: AWS, Azure или GCP
- Работни познания за контейнери и инструменти за оркестрация, включително Docker и Kubernetes
- Умения за скриптиране и автоматизация с Python и Bash или PowerShell
- Опит с инструменти за наблюдение като Datadog, Grafana, Prometheus, CloudWatch или Azure Monitor
- Опит с CI/CD и инфраструктура като код, включително GitHub Actions, GitLab CI или Terraform
- Добро разбиране на REST API, удостоверяване, основи на мрежите и анализ на логове
- Доказан опит в управлението на инциденти, включително подготовка на прегледи след инциденти
- Отлични писмени и устни комуникационни умения за техническа и нетехническа аудитория
- Опит с RAG архитектури и векторни бази данни
- Познаване на рамки за агенти и оркестрация като LangChain, LlamaIndex или MCP
- Опит с платформи за наблюдение и оценяване на LLM като LangSmith, Langfuse, Arize или Weights & Biases
- Опит с хостване или обслужване на модели с отворени тегла чрез платформи като vLLM, Hugging Face или SageMaker
- Познаване на управлението и регулирането на AI, включително Закона на ЕС за изкуствения интелект, ISO/IEC 42001 и GDPR
- Сертификати ITIL, Kubernetes CKA/CKAD или облачни сертификати
- Опит в консултантски услуги или работа по доставки за клиенти, за предпочитане в регулирани отрасли като енергетика или финансови услуги
Придобивки
- Хибриден режим на работа
- Бюджет за оборудване на домашен офис
- Гъвкаво свободно време, включително отпуск за рождения ви ден
- Схема за участие в печалбата
- Признание за силно представяне и принос
- Частно здравеопазване
- Поверителна помощ за служители, включваща консултиране, подкрепа за психичното здраве и финансова стабилност
- Общности по интереси, включително клубове по бягане и книги
- Общност Women in Tech
- Месечни социални събития
- Фирмени събития между различни региони
- Бюджет за лично обучение
- Достъп до Udemy
- Ясно определена кариерна рамка
- Възможности за вътрешна мобилност
- Възможности за принос към лидерството на мисълта
- Работна среда, подходяща за семейства
- Гъвкавост за служители с отговорности за полагане на грижи
- Адаптации за достъпност през целия процес на интервюиране