FourKites, Inc. utvecklar en global plattform för insyn i leveranskedjan som hjälper organisationer att övervaka och samordna logistik i realtid. Företagets applikationer samlar data från transport-, lager- och gårdsverksamhet, vilket ger team en tydligare bild av försändelser och aktiviteter i leveranskedjan över flera transportsätt. Företaget betjänar fler än 1 500 ledande varumärken, inklusive verksamheter inom logistik, mat och dryck, läkemedel och tillverkning, och ansluter till företagssystem för att stödja effektivare verksamhet, kostnadskontroll och kundservice.
Huvudarkitekt för AI-agenter och agentsystem
Led arkitekturarbetet för FourKites AI-agenter, från modeller och kontexthantering till utvärdering. Bygg plattformen bakom AI-drivna digitala medarbetare inom leveranskedjan.
Beskrivning
- Ansvara för arkitekturen för FourKites AI-agenter, inklusive exekvering, kontext, modeller och utvärdering.
- Fastställa referensarkitekturen för agentloopar, verktygsanvändning, tillstånd, kontrollpunkter, omförsök, återhämtning, skyddsåtgärder, behörigheter och överlämningar till människor.
- Utforma robusta arbetsflöden i flera steg som sträcker sig över kontextfönster och återhämtar sig från fel i verktyg, transportörers API:er och modeller.
- Välja rätt metod för varje problem, från avancerade modeller och modeller med öppna vikter till finjusterade kodare eller traditionell kod.
- Hantera modellroutning, kostnader per uppgift och latensmål för hela agentflottan.
- Ansluta agenter till Kafka, mikrotjänster, Postgres, kund-API:er och MCP-servrar.
- Definiera standarder för kontextfönster för prompter, verktyg, hämtat innehåll, minne och tidigare turer inom tokenbegränsningar.
- Skapa gemensamma verktyg för informationshämtning, komprimering av kontext, sammanfattning, isolering av underagenter, promptcachning och beständigt minne.
- Undersöka kontextfel och omvandla lösningar till återanvändbara exekveringsmönster.
- Utveckla system för offlineutvärdering med produktionsspår, kodbaserade kontroller, kalibrerad bedömning med LLM som domare och CI-regressionstester.
- Utveckla onlineutvärdering med poängsättning i produktion, kvalitetsmått, driftövervakning, skugg- och A/B-lanseringar, återkopplingssignaler och kvalitetslarm.
- Koppla utvärderingsmått till resultat som spårningsprecision, automatisk hantering av avvikelser och andel bokade tider.
- Granska design och pull-förfrågningar, dokumentera arkitektur och driftshandböcker samt handleda erfarna och seniora ingenjörer.
- Följa utvecklingen inom modeller och verktyg, genomföra experiment och rekommendera om vi bör bygga, köpa eller avvakta.
- Samarbeta med Product, Solutions och Customer Success för att omvandla problem från verksamheten till plattformsförbättringar.
Krav
- Ha utformat och driftsatt ett LLM-agentsystem för verkliga användare och produktionstrafik, med verktygsanrop, arbetsflöden i flera steg, felhantering och eskalering till människor.
- Ha haft ansvar för ett LLM-agentsystem efter lansering och hanterat incidenter, kostnader och latens.
- Ha djup kunskap om maskininlärning, inklusive attention, positionskodningar, kodar- och avkodararkitekturer, tokenisering och KV-cacheminnen.
- Ha tränat eller finjusterat kodarmodeller, till exempel modeller i BERT-familjen, meningsvektorer, bi-kodare och kors-kodare för omrankning.
- Förstå kontrastiv träning, destillering och kvantisering.
- Ha hanterat tokenbudgetar och byggt informationshämtning och minne för agenter.
- Ha använt kontextkomprimering och underagenter samt mätt kvalitet när kontextfönster fylls.
- Ha byggt exekveringslager för agenter med loopar, verktygsdirigering, tillstånd och kontrollpunkter, avbrott och återhämtning, sandlådor och behörigheter, skyddsåtgärder samt modellroutning.
- Behärska MCP, strukturerade utdata och strömning.
- Ha byggt sviter för offline- och onlineutvärdering som omfattar datamängder, bedömare, kalibrering av LLM som domare, CI-regressionströsklar, poängsättning i produktion, urval av spår, driftövervakning, skuggdriftsättningar och återkopplingsloopar.
- Ha minst 10 års erfarenhet av mjukvara eller maskininlärningssystem, varav minst 3 år med utveckling av LLM-lösningar.
- Ha starka, praktiska kunskaper i Python.
- Vara bekväm med att läsa och granska tjänster i Java eller TypeScript.
- Ha produktionserfarenhet av AWS eller GCP, containrar, Kubernetes och händelsestyrda system.
- Kommunicera effektivt både skriftligt och muntligt.
- Meriterande: erfarenhet av leveranskedjor, logistik eller transporter.
- Meriterande: erfarenhet av Document AI, OCR, layoutmodeller och dataextrahering från konossement, fakturor och leveransbevis.
- Meriterande: erfarenhet av att bygga röst- eller e-postagenter som agerar för ett företag.
- Meriterande: erfarenhet av agentsäkerhet, inklusive skydd mot promptinjektion, verktygsbehörigheter och isolering av kunddata.
- Meriterande: erfarenhet av Claude, GPT, Gemini, modeller med öppna vikter och modellservingstackar.
- Meriterande: publikationer, föredrag eller bidrag till öppen källkod om agenter, informationshämtning eller utvärdering.
Förmåner
- Konkurrenskraftig ersättning och aktieoptioner.
- Fem globala återhämtningsdagar.
- Generös betald ledighet och ordinarie helgdagar.
- Föräldraledighet för alla föräldrar.
- Årligt friskvårdsbidrag.
- Volontärdagar.
- Sjukvårdsförmåner från första anställningsdagen.
- 36 lediga dagar för sjukfrånvaro, personlig ledighet och intjänad semester.
- Fem återhämtningsdagar.
- Två volontärdagar.
- Ersättning för hemmakontor och teknik.
- Förmåner för livsstil och familj.
- Stöd och vägledning för psykiskt välmående.
- Löpande kompetensutveckling, inklusive ett program för professionell utveckling och en Toastmasters-klubb.