FourKites, Inc. utvikler en global plattform for synlighet i forsyningskjeden som hjelper organisasjoner med å overvåke og koordinere logistikk i sanntid. Selskapets applikasjoner samler data fra transport-, lager- og terminaldrift, slik at team får bedre oversikt over forsendelser og aktiviteter i forsyningskjeden på tvers av flere transportformer. Selskapet betjener mer enn 1 500 ledende merkevarer, blant annet virksomheter innen logistikk, mat og drikke, legemidler og produksjon, og kobles til virksomhetssystemer for å støtte mer effektiv drift, kostnadskontroll og kundeservice.
Hovedarkitekt for AI-agenter og agentsystemer
Led arkitekturen for FourKites’ AI-agenter, fra modeller og konteksthåndtering til evaluering. Bygg plattformen bak AI-drevne digitale medarbeidere i forsyningskjeden.
Beskrivelse
- Ha ansvar for arkitekturen for FourKites’ AI-agenter, inkludert kjøring, kontekst, modeller og evaluering.
- Fastsette referansearkitekturen for agentløkker, verktøybruk, tilstand, kontrollpunkter, nye forsøk, gjenoppretting, sikkerhetstiltak, tillatelser og overleveringer til mennesker.
- Utforme robuste arbeidsflyter i flere trinn som går på tvers av kontekstvinduer og håndterer feil i verktøy, transportørers API-er og modeller.
- Velge riktig tilnærming for hvert problem, fra avanserte modeller og modeller med åpne vekter til finjusterte encodere eller tradisjonell kode.
- Administrere modellruting, kostnader per oppgave og mål for latenstid på tvers av agentflåten.
- Koble agenter til Kafka, mikrotjenester, Postgres, kunde-API-er og MCP-servere.
- Definere standarder for kontekstvinduer for prompter, verktøy, hentet innhold, minne og tidligere turer innenfor tokenbegrensningene.
- Lage delte verktøy for informasjonsinnhenting, kontekstkomprimering, oppsummering, isolering av underagenter, promptcaching og vedvarende minne.
- Undersøke kontekstfeil og gjøre løsninger om til gjenbrukbare kjøremønstre.
- Utvikle systemer for offlineevaluering med produksjonsspor, kodebaserte kontroller, kalibrert vurdering med LLM som dommer og CI-regresjonstester.
- Utvikle onlineevaluering med produksjonsscore, kvalitetsmål, driftsovervåking, shadow- og A/B-utrullinger, tilbakemeldingssignaler og kvalitetsvarsler.
- Koble evalueringsmål til resultater som sporingsnøyaktighet, automatisk håndtering av avvik og andel fylte avtaletider.
- Gjennomgå design og pull requests, dokumentere arkitektur og driftsveiledninger og veilede erfarne og senioringeniører.
- Følge utviklingen innen modeller og verktøy, kjøre eksperimenter og anbefale om vi bør bygge, kjøpe eller vente.
- Samarbeide med Product, Solutions og Customer Success for å gjøre problemer fra feltet om til plattformforbedringer.
Krav
- Ha utformet og driftet et LLM-agentsystem for faktiske brukere og produksjonstrafikk, med verktøykall, arbeidsflyter i flere trinn, feilhåndtering og eskalering til mennesker.
- Ha hatt ansvar for et LLM-agentsystem etter lansering og håndtert hendelser, kostnader og latenstid.
- Ha dyp kunnskap om maskinlæring, inkludert attention, posisjonskodinger, encoder- og decoderarkitekturer, tokenisering og KV-buffere.
- Ha trent eller finjustert encodermodeller, for eksempel modeller i BERT-familien, setningsinnleiringer, bi-encodere og cross-encoder-rerankere.
- Forstå kontrastiv trening, destillering og kvantisering.
- Ha håndtert tokenbudsjetter og bygget informasjonsinnhenting og minne for agenter.
- Ha brukt kontekstkomprimering og underagenter og målt kvaliteten etter hvert som kontekstvinduer fylles.
- Ha bygget kjørelag for agenter med løkker, verktøydistribusjon, tilstand og kontrollpunkter, avbrudd og gjenoppretting, sandkassekjøring og tillatelser, sikkerhetstiltak og modellruting.
- Beherske MCP, strukturerte utdata og strømming.
- Ha bygget suiter for offline- og onlineevaluering som dekker datasett, vurderingsverktøy, kalibrering av LLM som dommer, CI-regresjonsporter, produksjonsscore, utvalg av spor, driftsovervåking, shadow-utrullinger og tilbakemeldingssløyfer.
- Ha over 10 års erfaring med programvare eller maskinlæringssystemer, inkludert minst 3 år med utvikling ved bruk av LLM-er.
- Ha sterke praktiske Python-ferdigheter.
- Være komfortabel med å lese og gjennomgå Java- eller TypeScript-tjenester.
- Ha produksjonserfaring med AWS eller GCP, containere, Kubernetes og hendelsesstyrte systemer.
- Kommunisere godt skriftlig og muntlig.
- En fordel: erfaring innen forsyningskjeder, logistikk eller transport.
- En fordel: erfaring med Document AI, OCR, layoutmodeller og datauttrekk fra konnossementer, fakturaer og leveringsbevis.
- En fordel: erfaring med å bygge tale- eller e-postagenter som handler på vegne av en bedrift.
- En fordel: erfaring med agentsikkerhet, inkludert beskyttelse mot promptinjektion, verktøytillatelser og isolering av leierdata.
- En fordel: erfaring med Claude, GPT, Gemini, modeller med åpne vekter og modellserveringsstakker.
- En fordel: publikasjoner, foredrag eller bidrag til åpen kildekode om agenter, informasjonsinnhenting eller evaluering.
Fordeler
- Konkurransedyktig lønn og aksjeopsjoner.
- Fem globale hviledager.
- Generøs betalt ferie og vanlige helligdager.
- Foreldrepermisjon for alle foreldre.
- Årlig tilskudd til velvære.
- Frivilligdager.
- Helseforsikring fra første arbeidsdag.
- 36 fridager fordelt på sykefravær, fleksitid og opptjent ferie.
- Fem hviledager.
- To frivilligdager.
- Godtgjørelse for hjemmekontor og teknologi.
- Fordeler for livsstil og familie.
- Støtte og veiledning for mental helse.
- Kontinuerlig læring og utvikling, blant annet et faglig utviklingsprogram og en Toastmasters-klubb.