LogoFresh Jobs Ahead
Beacon Venture Capital
Beacon Venture Capital
1 – 10 Ansatte
FintechKunstig intelligens
Beacon Venture Capital er Kasikornbank PLCs heleide virksomhetskapitalarm og en del av Thailands ledende forretningsbank. Fondet ble etablert i 2016 og investerer strategisk i teknologistartups fra tidligfase til vekstfase, med hovedvekt på fintech. Investeringsinteressene omfatter også forbrukerrettede livsstilsbedrifter og områder innen dypteknologi, som kunstig intelligens og IT for virksomheter. Beacon Venture Capital ble lansert med 30 millioner dollar i kapital og vokste til 135 millioner dollar i 2018.
LinkedIn
Jobber i bedriften

Staff Software Engineer, kunstig intelligens og LLM

Led utviklingen av LLM-drevne luftfartsfunksjoner for Beacon AI sin plattform for sikrere flyging, med fokus på RAG, verktøykall, evaluering, sikkerhet og produksjonsstabilitet.

USUSACACalifornia
224 000 $ – 260 000 $ / år
HybridHeltidLeadPåkrevd Språk: engelskAI-ingeniørMaskinlæringsingeniør
AWSDynamoDBPythonTypeScript

Beskrivelse

  • Bygg brukerrettede LLM-produktfunksjoner fra design til produksjon
  • Utform arbeidsflyter for retrieval-augmented generation og verktøykall
  • Produser pålitelige JSON-utdata og skjemabegrensede utdata med validering, nye forsøk og reservehåndtering
  • Bruk funksjonskall til å koble sammen interne verktøy, søk, ruting og datatjenester
  • Utvikle API-er og arbeidere i Python eller TypeScript med tydelige kontrakter, strømming og backoff
  • Bruk hurtigbufring, forespørselsutforming, promptmaler og kontekstpakking for å håndtere forsinkelse og kostnader
  • Koble applikasjoner til AWS Bedrock, OpenAI, Anthropic eller selvhostede modellendepunkter
  • Samarbeid med infrastrukturingeniører om chunking, embeddings og indeksering av dokumenter, tidsserier og multimediainnhold
  • Velg og optimaliser vektordatabaser, inkludert OpenSearch, pgvector og Pinecone
  • Hold kunnskapsbaser oppdaterte ved å synkronisere data fra S3, Aurora, DynamoDB og eksterne kilder
  • Bygg offline-evalueringer og golden datasets for prompter, retrievere og verktøy
  • Definer nettmålinger for oppgavesuksess, hallusinasjonsrate, presisjon og recall ved henting, p95-forsinkelse og kostnad per forespørsel
  • Gjennomfør A/B-tester og rull ut prompt- og versjonsendringer med sikkerhetsmekanismer og kanariutrullinger
  • Implementer innholds- og håndheving av retningslinjer, deteksjon og maskering av personopplysninger, tilgangskontroller og revisjonsspor
  • Opprett arbeidsflyter med menneske i loopen for sensitive operasjoner
  • Behandle luftfartsdata i tråd med interne sikkerhetsstandarder
  • Tilby sporing, logging og dashbord for modellkall, tokenbruk, feil og systemmetning
  • Undersøk feil på tvers av henting, prompter, verktøy og modellleverandører
  • Fastsett teknisk retning på tvers av tjenester og team for komplekse og uklare problemer
  • Samarbeid med ML-, infrastruktur- og produktpartnere om brukeropplevelse, resultater, stabilitet og sikkerhetskritiske systemer

Krav

  • Minst 8 års erfaring, inkludert ansvar for systemer eller standarder som brukes av andre ingeniører
  • Alternativt en relevant mastergrad pluss 4 års relevant erfaring
  • Erfaring med å lansere LLM-funksjoner for sluttbrukere og forbedre dem gjennom data
  • Sterke ferdigheter innen produksjonsutvikling, testing og teknisk dokumentasjon
  • Kunnskap om embeddings, chunking, avveininger ved vektorsøk og funksjonskall
  • Erfaring med å utforme evalueringer, etablere suksessmål og iterere basert på evidens
  • Evne til å overvåke p95-forsinkelse, oppfylle SLA-er og redusere kostnader uten å svekke kvaliteten
  • Evne til å kommunisere avveininger og samordne interessenter innen produkt, infrastruktur og sikkerhet
  • Erfaring med teknisk ledelse som innebærer å fastsette retning eller standarder som er tatt i bruk av ingeniører eller team
  • Gode ferdigheter i Python eller TypeScript
  • Erfaring med RAG, arbeidsflyter for verktøykall, skjemabegrenset JSON, validering, nye forsøk, reservehåndtering, API-er, arbeidere, strømming, backoff, hurtigbufring, promptmaler, kontekstpakking og modellleverandører
  • Erfaring med AWS Bedrock, OpenAI, Anthropic eller selvhostede endepunkter
  • Kjennskap til OpenSearch, pgvector, Pinecone eller Weaviate
  • Erfaring med å arbeide med datakilder i S3, Aurora og DynamoDB
  • Erfaring med offline-evaluering, golden datasets, nettmålinger, A/B-testing, prompt- og versjonsutrullinger, sikkerhetsmekanismer og kanariutrullinger
  • Erfaring med å implementere innholds- og policykontroller, deteksjon og maskering av personopplysninger, tilgangsstyring og revisjon
  • Erfaring med sporing, logging, dashbord, feilsøking av modellkall og produksjonsdrift
  • U.S. Person-status er påkrevd; visumsponsing og overføringer er ikke tilgjengelig
  • Alt arbeid må utføres i USA
  • Evne til å arbeide i San Francisco Bay Area eller San Carlos i California minst 3 dager i uken på arbeidsstedet

Fordeler

  • Det tilbys aksjer
  • Selskapet dekker 100 % av de ansattes helseforsikringspremier
  • Selskapet dekker 25 % av helseforsikringspremiene for forsørgede
  • Tre ukers betalt fri
  • Minst 13 betalte helligdager
  • Det tilbys en 401(k)-ordning
  • Fjernarbeid er tilgjengelig de øvrige dagene i hybridordningen

Relaterte jobber