Ambush je konzultantska tvrtka usmjerena na ljude koja pomaže organizacijama izgraditi i integrirati udaljene dizajnerske i inženjerske timove. Pruža usluge razvoja softvera i dizajna kroz dugoročna partnerstva, surađujući s klijentima u područjima kao što su zdravstvo, financije i privatnost. Njezin pristup temelji se na pronalaženju stručnih profesionalaca, podršci njihovu zadržavanju i učinkovitom funkcioniranju udaljenih timova unutar organizacija klijenata.
Senior Python inženjer/inženjerka za agentsku umjetnu inteligenciju — rad na daljinu iz Brazila
U tvrtki Ambush, koja se bavi inženjerstvom, dizajnom i strategijom, razvijat ćete LLM usluge s više agenata. Posao uključuje streaming API-je, implementacije na Kubernetesu i sigurne integracije umjetne inteligencije.
Opis
- Razvijati i održavati Python usluge koje koordiniraju LLM agente
- Razvijati usmjeravanje i delegiranje zadataka među agentima
- Omogućiti komunikaciju među agentima protokolom A2A i agentskim karticama
- Izrađivati streaming API-je koji vraćaju rezultate čim postanu dostupni
- Povezivati LLM-ove putem AWS Bedrock/Anthropic, Azure OpenAI ili sličnih platformi uz pozive alata i predloške promptova
- Dodavati mogućnosti praćenja i nadzora LLM-a u aplikacije
- Dijagnosticirati probleme u distribuiranim okruženjima
- Pakirati i implementirati usluge u kontejnere i Kubernetes klastere
- Štititi komunikaciju između usluga pomoću mTLS-a
- Nadzirati upravljanje životnim ciklusom certifikata
- Podržavati CI/CD procese i dobre prakse upravljanja verzijama
Zahtjevi
- Izvrsno poznavanje Pythona
- Praktično iskustvo s protokolom A2A i delegiranjem zadataka među više agenata
- Dobro poznavanje asyncioja, uključujući asinkrone generatore, redove, konkurentne producente i otkazivanje zadataka
- Iskustvo u izradi streaming API-ja koji postupno vraćaju rezultate
- Iskustvo s agentskim okvirima kao što su Pydantic AI, LangGraph ili slični alati
- Iskustvo s pozivima alata, usmjeravanjem agenata i izradom predložaka promptova u Jinja2
- Iskustvo s integracijom LLM API-ja kao što su AWS Bedrock/Anthropic, Azure OpenAI ili usporedive platforme
- Iskustvo s OpenTelemetryjem i alatima za praćenje LLM-a kao što je Arize Phoenix ili sličnim alatima
- Iskustvo u analizi zapisa iz više podova pomoću Splunka, Datadoga ili sličnih alata
- Iskustvo s Dockerom, uključujući višestupanjske izgradnje, privatne registre i devcontainere
- Iskustvo s implementacijom na Kubernetes i radom s uslugama, ingressom, sondama, kubectlom i k9s-om
- Iskustvo s korištenjem mTLS-a na strani klijenta i upravljanjem životnim ciklusom certifikata
- Iskustvo s Gitom i GitHub Actionsom
- Izvrsne komunikacijske vještine
- Napredno znanje engleskog jezika
- Iskustvo na seniorskoj razini
- Prednost je iskustvo u dokumentiranju životnog ciklusa softvera, osobito u reguliranim okruženjima
- Prednost je iskustvo na projektima u farmaceutskoj industriji, zdravstvu ili biološkim znanostima
Pogodnosti
- Radno okruženje usmjereno na ljude, uz podršku, povjerenje i osnaživanje zaposlenika
- Kultura suradnje utemeljena na uzajamnoj podršci
- Smislen dugoročan rad i partnerstva