FourKites, Inc. razvija globalnu platformu za vidljivost opskrbnog lanca koja organizacijama pomaže u stvarnom vremenu pratiti i koordinirati logistiku. Njezine aplikacije objedinjuju podatke o prijevozu, zalihama i operacijama u logističkim dvorištima, pružajući timovima jasniji pregled pošiljaka i aktivnosti u opskrbnom lancu kroz više načina prijevoza. Tvrtka posluje s više od 1.500 vodećih robnih marki, uključujući poduzeća iz logistike, industrije hrane i pića, farmaceutske industrije i proizvodnje, te se povezuje s poslovnim sustavima kako bi podržala učinkovitije poslovanje, kontrolu troškova i korisničku podršku.
Glavni arhitekt AI agentskih sustava
Vodite arhitekturu FourKitesovih AI agenata, od modela i upravljanja kontekstom do evaluacije. Gradite platformu za digitalne radnike u opskrbnom lancu koje pokreće AI.
Opis
- Preuzmite odgovornost za arhitekturu FourKitesovih AI agenata, uključujući izvođenje, kontekst, modele i evaluaciju.
- Postavite referentnu arhitekturu agenata za petlje, korištenje alata, stanje, kontrolne točke, ponovne pokušaje, oporavak, zaštitne mehanizme, dopuštenja i predaju zadataka ljudima.
- Osmislite pouzdane višekoračne tijekove rada koji prelaze granice kontekstnih prozora i oporavljaju se od kvarova alata, API-ja prijevoznika i modela.
- Za svaki problem odaberite odgovarajući pristup – od najsuvremenijih modela ili modela s otvorenim težinama do fino podešenih enkodera ili uobičajenog koda.
- Upravljajte usmjeravanjem modela, troškovima po zadatku i ciljevima latencije u cijeloj floti agenata.
- Povežite agente s Kafkom, mikrouslugama, Postgresom, korisničkim API-jima i MCP poslužiteljima.
- Definirajte standarde kontekstnih prozora za promptove, alate, dohvaćeni sadržaj, memoriju i prethodne izmjene unutar ograničenja tokena.
- Izradite zajedničke alate za dohvat, sažimanje konteksta, izradu sažetaka, izolaciju podagenata, predmemoriranje promptova i trajnu memoriju.
- Istražujte pogreške konteksta i pretvarajte rješenja u ponovno upotrebljive obrasce izvođenja.
- Razvijajte sustave izvanmrežne evaluacije pomoću produkcijskih zapisa, provjera temeljenih na kodu, kalibriranog ocjenjivanja LLM-a kao suca i regresijskih paketa CI-ja.
- Razvijajte mrežnu evaluaciju s produkcijskim bodovanjem, mjerama kvalitete, praćenjem odstupanja, izdanjima u sjeni i A/B izdanjima, signalima povratnih informacija i upozorenjima o kvaliteti.
- Povežite mjere evaluacije s ishodima kao što su točnost praćenja, automatizirano rješavanje iznimaka i popunjenost termina.
- Pregledavajte dizajne i zahtjeve za povlačenje, dokumentirajte arhitekturu i operativne priručnike te mentorirajte iskusne i više inženjere.
- Pratite razvoj modela i alata, provodite eksperimente i preporučujte treba li rješenje izraditi, kupiti ili pričekati.
- Surađujte s timovima Product, Solutions i Customer Success kako biste probleme s terena pretvorili u poboljšanja platforme.
Zahtjevi
- Arhitekturirali ste i vodili sustav LLM agenata za stvarne korisnike i produkcijski promet, uključujući pozive alata, višekoračne tijekove rada, obradu pogrešaka i eskalaciju ljudima.
- Nakon pokretanja bili ste odgovorni za sustav LLM agenata te upravljali incidentima, troškovima i latencijom.
- Imate duboko znanje strojnog učenja, uključujući pažnju, pozicijska kodiranja, arhitekture enkodera i dekodera, tokenizaciju i KV predmemorije.
- Trenirali ste ili fino podešavali enkoderske modele kao što su modeli iz obitelji BERT, vektorska utjelovljenja rečenica, bi-enkoderi i unakrsni enkoderi za ponovno rangiranje.
- Razumijete kontrastivno treniranje, destilaciju i kvantizaciju.
- Upravljali ste proračunima tokena te izradili dohvat i memoriju za agente.
- Koristili ste sažimanje konteksta i podagente te mjerili kvalitetu kako se kontekstni prozori popunjavaju.
- Izradili ste slojeve izvođenja agenata s petljama, usmjeravanjem alata, stanjem i kontrolnim točkama, prekidanjem i oporavkom, izoliranim okruženjem i dopuštenjima, zaštitnim mehanizmima te usmjeravanjem modela.
- Vješti ste u MCP-u, strukturiranim izlazima i streamingu.
- Izradili ste pakete izvanmrežne i mrežne evaluacije koji obuhvaćaju skupove podataka, ocjenjivače, kalibraciju LLM-a kao suca, CI regresijske provjere, produkcijsko bodovanje, uzorkovanje zapisa, praćenje odstupanja, izdanja u sjeni i povratne petlje.
- Imate više od 10 godina iskustva u softverskim sustavima ili sustavima strojnog učenja, uključujući najmanje 3 godine rada s LLM-ovima.
- Odlično se služite Pythonom u praktičnom radu.
- Možete čitati i pregledavati servise u Javi ili TypeScriptu.
- Imate produkcijsko iskustvo s AWS-om ili GCP-om, kontejnerima, Kubernetesom i sustavima vođenima događajima.
- Učinkovito komunicirate pisano i razgovorno.
- Prednost je iskustvo u opskrbnom lancu, logistici ili prijevozu.
- Prednost je iskustvo s Document AI-jem, OCR-om, modelima izgleda dokumenta i izvlačenjem podataka iz teretnica, računa i potvrda o isporuci.
- Prednost je iskustvo u izradi glasovnih ili e-mail agenata koji djeluju u ime tvrtke.
- Prednost je iskustvo sa sigurnošću agenata, uključujući obranu od prompt injectiona, dopuštenja alata i izolaciju podataka klijenata.
- Prednost je iskustvo s modelima Claude, GPT, Gemini, modelima s otvorenim težinama i sustavima za posluživanje modela.
- Prednost su publikacije, predavanja ili doprinosi projektima otvorenog koda o agentima, dohvatu ili evaluaciji.
Pogodnosti
- Konkurentna primanja i dioničke opcije.
- Pet globalnih dana za predah.
- Velikodušan plaćeni dopust i uobičajeni blagdani.
- Roditeljski dopust dostupan svim roditeljima.
- Godišnji dodatak za dobrobit.
- Dani za volontiranje.
- Zdravstvene pogodnosti dostupne su od prvog dana zaposlenja.
- 36 dana dopusta za bolovanje, osobne potrebe i zarađeni dopust.
- Pet dana za predah.
- Dva dana za volontiranje.
- Naknada za opremanje kućnog ureda i tehnologiju.
- Pogodnosti za životni stil i obitelj.
- Podrška i savjetovanje za mentalno zdravlje.
- Kontinuirano učenje i razvoj, uključujući program profesionalnog razvoja i klub Toastmasters.