Voditelj podrške AI platformi u tvrtki ClearRoute – hibridni rad u Ujedinjenoj Kraljevini
Vodite produkcijsku podršku za agentne sustave temeljene na Azureu u inženjerskoj konzultantskoj tvrtki ClearRoute. Bit ćete odgovorni za nadzor, odgovor na incidente, pouzdanost i rad platforme za AI usluge.
Opis
- Izgraditi i voditi funkciju podrške AI platformi
- Pratiti stanje, latenciju, dostupnost i stope pogrešaka AI usluga, krajnjih točaka modela i povezane infrastrukture
- Istraživati i rješavati incidente poput kvarova API-ja, ograničenja broja zahtjeva i pada kvalitete izlaza modela
- Voditi analize osnovnog uzroka i dokumentirati nepristrane preglede nakon incidenata s korektivnim mjerama
- Sudjelovati u zajedničkoj dežurnoj rotaciji za produkcijske AI usluge
- Izrađivati i održavati nadzorne ploče, upozorenja i zapisivanje za radna opterećenja LLM-a
- Pratiti potrošnju tokena, latenciju, troškove i rezultate evaluacije
- Unapređivati cjevovode za implementaciju modela, promptova, agenata i RAG komponenti
- Upravljati vektorskim bazama podataka, procesima izrade embeddinga i poslovima unosa podataka
- Automatizirati ponavljajuće aktivnosti podrške i operativne upute
- Pružati eskalacijsku podršku za probleme AI platforme koje prijave timovi za isporuku i klijenti
- Održavati operativne upute, sadržaj baze znanja i korisničku dokumentaciju
- Dijeliti ponavljajuće probleme i prilike za poboljšanje s vlasnicima inženjeringa i proizvoda
- Podržavati uvođenje platforme za nove timove i klijente
- Definirati tehničke temelje, arhitekturu i smjer proizvoda za širi program AI-ja i agentnih sustava
Zahtjevi
- Najmanje tri godine iskustva u podršci platformama, SRE-u, DevOps-u ili produkcijskoj podršci za usluge smještene u oblaku
- Praktično iskustvo s podrškom aplikacijama koje koriste LLM API-je poput OpenAI-ja, Anthropica, Azure OpenAI-ja, AWS Bedrocka ili Google Vertex AI-ja
- Dobro radno poznavanje barem jedne velike cloud platforme: AWS, Azure ili GCP
- Radno iskustvo s kontejnerima i alatima za orkestraciju, uključujući Docker i Kubernetes
- Sposobnost skriptiranja i automatizacije u Pythonu te Bashu ili PowerShellu
- Iskustvo s alatima za nadzor poput Datadoga, Grafane, Prometheusa, CloudWatcha ili Azure Monitora
- Iskustvo s CI/CD-om i infrastrukturom kao kodom, uključujući GitHub Actions, GitLab CI ili Terraform
- Dobro razumijevanje REST API-ja, autentikacije, osnova umrežavanja i analize zapisa
- Dokazano iskustvo upravljanja incidentima, uključujući pripremu pregleda nakon incidenata
- Izvrsne pisane i usmene komunikacijske vještine za tehničku i netehničku publiku
- Iskustvo s RAG arhitekturama i vektorskim bazama podataka
- Poznavanje agenata i orkestracijskih okvira poput LangChaina, LlamaIndexa ili MCP-a
- Iskustvo s platformama za nadzor i evaluaciju LLM-a poput LangSmitha, Langfusea, Arizea ili Weights & Biasesa
- Iskustvo s hostingom ili posluživanjem open-weight modela na platformama poput vLLM-a, Hugging Facea ili SageMakera
- Poznavanje upravljanja AI-jem i regulative, uključujući Akt EU-a o umjetnoj inteligenciji, ISO/IEC 42001 i GDPR
- ITIL, Kubernetes CKA/CKAD ili cloud certifikati
- Iskustvo u konzultantskim uslugama ili isporuci za klijente, po mogućnosti u reguliranim industrijama poput energetike ili financijskih usluga
Pogodnosti
- Hibridni način rada
- Proračun za uređenje kućnog ureda
- Fleksibilno slobodno vrijeme, uključujući slobodan dan za rođendan
- Program podjele dobiti
- Priznanje za odličan učinak i doprinos
- Privatno zdravstveno osiguranje
- Povjerljiva pomoć zaposlenicima koja uključuje savjetovanje, podršku za mentalno zdravlje i financijsku dobrobit
- Zajednice prema interesima, uključujući trkački i književni klub
- Zajednica Women in Tech
- Mjesečna društvena događanja
- Društvena događanja na razini više regija
- Proračun za osobno učenje
- Pristup Udemyju
- Definiran karijerni okvir
- Mogućnosti interne mobilnosti
- Mogućnosti sudjelovanja u stručnom vodstvu
- Radno mjesto prilagođeno obiteljima
- Fleksibilnost za zaposlenike s obvezama skrbi
- Prilagodbe pristupačnosti tijekom cijelog procesa razgovora za posao