Beacon Venture Capital er Kasikornbank PLCs heleide virksomhetskapitalarm og en del av Thailands ledende forretningsbank. Fondet ble etablert i 2016 og investerer strategisk i teknologistartups fra tidligfase til vekstfase, med hovedvekt på fintech. Investeringsinteressene omfatter også forbrukerrettede livsstilsbedrifter og områder innen dypteknologi, som kunstig intelligens og IT for virksomheter. Beacon Venture Capital ble lansert med 30 millioner dollar i kapital og vokste til 135 millioner dollar i 2018.
Senioringeniør innen skyinfrastruktur – hybrid i San Carlos
Bygg sikker og skalerbar AWS-infrastruktur for LLM-, RAG- og maskinlæringsplattformer. Støtt teknologi for flysikkerhet gjennom skydrift, datapipelines og plattformteknikk for maskinlæring.
Beskrivelse
- Utform, klargjør og vedlikehold AWS-miljøer med verktøy for infrastruktur som kode, som AWS CDK og Terraform.
- Utvikle CI/CD-arbeidsflyter og testing for applikasjoner, infrastruktur og ML-pipelines med GitHub Actions, CodeBuild og CodePipeline.
- Drift sikre sky nettverk med VPC-er, PrivateLink og VPC-endepunkter.
- Administrer IAM-, KMS-, Secrets Manager- og revisjonsloggingskontroller.
- Distribuer og drift modellendepunkter med AWS Bedrock og/eller SageMaker.
- Vurder ECS, EKS, Lambda og Batch for inferensarbeidsbelastninger.
- Bygg applikasjonstjenester som får tilgang til LLM-er gjennom pålitelige API-er med støtte for strømming, batchkjøring og backoff.
- Utvikle arbeidsflyter for prompter og verktøykjøring med LangChain eller sammenlignbare rammeverk, inkludert agenter og funksjonskall.
- Opprett chunking- og embedding-pipelines og orkestrer dem gjennom Step Functions eller Airflow.
- Drift plattformer for vektorsøk, inkludert OpenSearch Serverless, Aurora PostgreSQL med pgvector og Pinecone.
- Vedlikehold kunnskapsbaser og synkroniser data på tvers av S3, Aurora, DynamoDB og eksterne systemer.
- Utvikle evalueringsrammeverk for prompter, retrievere og kjeder.
- Implementer observerbarhet for applikasjoner og modeller med CloudWatch og OpenTelemetry.
- Opprett dashbord for tokenforbruk og skykostnader med budsjetter og varsler.
- Implementer sikkerhetsmekanismer, hastighetsbegrensning, fallback-håndtering og ruting mellom leverandører.
- Legg til deteksjon og maskering av personopplysninger, tilgangskontroller, innholdsfiltrering og arbeidsflyter for menneskelig gjennomgang.
- Vedlikehold revisjonsspor for regulerte driftsmiljøer.
- Utvikle arbeidsflyter for inntak og behandling av strukturerte, ustrukturerte og multimediale data.
- Beskytt dataintegritet, dataopprinnelse og katalogisering med Glue og Lake Formation.
- Forbedre masseoverføring av data og lagring på tvers av S3, Glacier og nivådelt lagring.
- Bruk Athena til ad hoc-dataanalyse.
- Administrer infrastruktur som distribueres til og kommuniserer med edge-enheter.
- Støtt sikker meldingsutveksling, identitetsstyring og trådløse oppdateringer.
- Samarbeid med produkt- og applikasjonsteam for å bygge inn hentetjenester, embeddings og LLM-kjeder i brukerrettede funksjoner.
- Tilby avansert feilsøking for sky- og maskinlæringstjenester.
- Forbedre kvaliteten på henting, effektiviteten i kontekstvinduet og hurtigbufring med Redis eller Bedrock Knowledge Bases.
- Optimaliser inferens gjennom modellvalg, kvantisering, dimensjonering av GPU- og CPU-instanser samt autoskalering.
Krav
- Minst tre års yrkeserfaring eller en relevant mastergrad.
- Praktisk erfaring med å bygge og administrere datapipelines.
- Erfaring med å utforme, distribuere og vedlikeholde skyinfrastruktur med verktøy for infrastruktur som kode, som AWS CDK.
- Bakgrunn fra å bygge pålitelige CI/CD- og automatiserte testsystemer.
- Erfaring med å levere eller drifte LLM-drevne applikasjoner i produksjon.
- Kjennskap til RAG-arkitektur, versjonering av prompter og orkestrering av kjeder med LangChain eller et lignende rammeverk.
- Svært gode kunnskaper om AWS-tjenester, inkludert VPC, IAM, KMS, CloudWatch, S3, ECS/EKS, Lambda, Step Functions, Bedrock og SageMaker.
- Erfaring med å utvikle datapipelines for inntak og transformasjon i Python.
- Kjennskap til Glue, Athena, EventBridge og SQS.
- Kunnskap om tilgang etter minste privilegium, håndtering av hemmeligheter, nettverksisolering og praksis for etterlevelse.
- Erfaring med kvantitativ evaluering, A/B-testing og produksjonsmålinger.
- Fire eller flere års arbeid med AWS serverless- eller containerplattformer er en fordel.
- Erfaring med å drifte vektordatabaser, OpenSearch eller pgvector i stor skala er en fordel.
- Kjennskap til Bedrock Guardrails, Knowledge Bases eller tilpassede policymotorer er en fordel.
- Kjennskap til GPU-arbeidsbelastninger, Triton Inference Server eller TensorRT-LLM er en fordel.
- Erfaring med stordata-teknologier for storskalabehandling og søk er en fordel.
- Erfaring med flydata eller en annen sikkerhetskritisk bransje er en fordel.
- DevOps- eller DevSecOps-erfaring med automatisering av CI/CD for ML- og applikasjonstjenester er en fordel.
- Må være en amerikansk person og ha lovlig rett til å arbeide i USA; visumsponsing og overføringer er ikke tilgjengelig.
- Må arbeide i USA, være basert i eller villig til å flytte til San Francisco Bay Area og arbeide på stedet i San Carlos, California minst tre dager per uke.
- fordeler
- Tilbyr aksjer.
- Dekker 100 % av de ansattes helseforsikringspremier.
- Dekker 25 % av helseforsikringspremiene for pårørende.
Fordeler
- Tilbyr aksjer.
- Dekker 100 % av de ansattes helseforsikringspremier.
- Dekker 25 % av helseforsikringspremiene for pårørende.
- Tilbyr tre ukers betalt fri.
- Tilbyr 13 eller flere betalte bedriftshelligdager.
- Tilbyr en 401(k)-ordning.
- Tilbyr en hybridordning med fjernarbeid de øvrige dagene.