Vodja podpore platforme AI v podjetju ClearRoute – hibridno delo v Združenem kraljestvu
Vodili boste produkcijsko podporo agentnih sistemov na osnovi Azure v inženirskem svetovalnem podjetju ClearRoute. Odgovorni boste za opazljivost, odzivanje na incidente, zanesljivost in delovanje platforme za storitve AI.
Opis
- Vzpostaviti in voditi funkcijo podpore platforme AI
- Spremljati stanje, zakasnitev, razpoložljivost in stopnje napak storitev AI, končnih točk modelov ter povezane infrastrukture
- Preiskovati in odpravljati incidente, kot so napake API-jev, omejitve hitrosti in slabšanje kakovosti izhodov modelov
- Voditi preiskave temeljnih vzrokov ter dokumentirati nepristranske preglede po incidentih s korektivnimi ukrepi
- Sodelovati v skupnem dežurstvu za produkcijske storitve AI
- Ustvarjati in vzdrževati nadzorne plošče, opozorila in beleženje za delovne obremenitve LLM
- Spremljati porabo žetonov, zakasnitev, stroške in rezultate vrednotenja
- Izboljševati cevovode za uvajanje modelov, pozivov, agentov in komponent RAG
- Upravljati vektorske podatkovne zbirke, poteke ustvarjanja vdelav in opravila za zajem podatkov
- Avtomatizirati ponavljajoče se podporne dejavnosti in operativna navodila
- Zagotavljati eskalacijsko podporo za težave platforme AI, ki jih prijavijo ekipe za izvedbo in naročniki
- Vzdrževati operativna navodila, vsebino baze znanja in uporabniško dokumentacijo
- Z lastniki inženiringa in izdelkov deliti ponavljajoče se težave ter priložnosti za izboljšave
- Podpirati uvajanje platforme za nove ekipe in naročnike
- Opredeliti tehnične temelje, arhitekturo in smer razvoja izdelka za širši program AI in agentnih sistemov
Zahteve
- Vsaj tri leta izkušenj s podporo platformam, SRE, DevOps ali produkcijsko podporo za storitve v oblaku
- Praktične izkušnje s podporo aplikacijam, ki uporabljajo API-je LLM, kot so OpenAI, Anthropic, Azure OpenAI, AWS Bedrock ali Google Vertex AI
- Dobro delovno poznavanje vsaj ene večje oblačne platforme: AWS, Azure ali GCP
- Delovno znanje vsebnikov in orodij za orkestracijo, vključno z Dockerjem in Kubernetesom
- Sposobnost skriptiranja in avtomatizacije s Pythonom ter Bashem ali PowerShellom
- Izkušnje z orodji za opazljivost, kot so Datadog, Grafana, Prometheus, CloudWatch ali Azure Monitor
- Izkušnje s CI/CD in infrastrukturo kot kodo, vključno z GitHub Actions, GitLab CI ali Terraformom
- Dobro razumevanje REST API-jev, preverjanja pristnosti, osnov omrežij in analize dnevnikov
- Dokazane izkušnje z upravljanjem incidentov, vključno s pripravo pregledov po incidentih
- Odlične pisne in ustne komunikacijske sposobnosti za tehnično in netehnično občinstvo
- Izkušnje z arhitekturami RAG in vektorskimi podatkovnimi zbirkami
- Poznavanje ogrodij za agente in orkestracijo, kot so LangChain, LlamaIndex ali MCP
- Izkušnje s platformami za opazljivost in vrednotenje LLM, kot so LangSmith, Langfuse, Arize ali Weights & Biases
- Izkušnje z gostovanjem ali streženjem modelov z odprtimi utežmi na platformah, kot so vLLM, Hugging Face ali SageMaker
- Poznavanje upravljanja in regulacije AI, vključno z aktom EU o umetni inteligenci, ISO/IEC 42001 in GDPR
- Certifikati ITIL, Kubernetes CKA/CKAD ali certifikati za oblak
- Izkušnje s svetovanjem ali izvedbo za naročnike, po možnosti v reguliranih panogah, kot sta energetika ali finančne storitve
Ugodnosti
- Hibridna ureditev dela
- Proračun za ureditev domače pisarne
- Prilagodljiv prosti čas, vključno z dopustom za rojstni dan
- Shema delitve dobička
- Priznanje za odlične rezultate in prispevek
- Zasebno zdravstveno varstvo
- Zaupna pomoč zaposlenim, ki vključuje svetovanje, podporo duševnemu zdravju in finančnemu blagostanju
- Skupnosti glede na interese, vključno s tekaškim in knjižnim klubom
- Skupnost Women in Tech
- Mesečni družabni dogodki
- Družabni dogodki med regijami
- Proračun za osebno izobraževanje
- Dostop do Udemyja
- Opredeljen karierni okvir
- Možnosti notranje mobilnosti
- Priložnosti za prispevanje k strokovnemu voditeljstvu
- Družinam prijazno delovno okolje
- Prilagodljivost za zaposlene z obveznostmi skrbi
- Prilagoditve za dostopnost v celotnem postopku razgovorov