Capital One är ett företag inom finansiella tjänster och fintech som erbjuder kreditkort, billån, banktjänster och sparprodukter. Företagets arbete kombinerar finansiell expertis med teknik och digitala verktyg för att förbättra hur kunder hanterar sina pengar. Karriärerna på företaget fokuserar på att utveckla kundorienterade lösningar i en mångfaldig och inkluderande arbetsmiljö.
AI-ingenjör 5, värdskap för grundmodeller och LLM-inferens
Led utvecklingen och optimeringen av värdskap för grundmodeller, LLM-inferens och agentisk AI-infrastruktur. Bygg skalbara och ansvarsfulla system som förbättrar AI-funktioner och bankupplevelser hos Capital One.
Beskrivning
- Samarbeta med ingenjörer, forskare, tekniska programansvariga och produktansvariga för att leverera AI-drivna produkter
- Designa, utveckla, testa, driftsätt och stöd AI-programvara inom träning av grundmodeller, LLM-inferens, agenter, arbetsflöden med flera agenter, likhetssökning, skyddsmekanismer, utvärdering, experimentering, styrning och observerbarhet
- Använd AI-teknik med öppen källkod och SaaS-baserad AI-teknik, inklusive AWS Ultraclusters, Hugging Face, vektordatabaser och PyTorch
- Utveckla optimeringsmetoder för grundmodeller som förbättrar skalbarhet, kostnadseffektivitet, svarstid och genomströmning i AI-system i produktion
- Bidra till att forma den tekniska visionen och den långsiktiga färdplanen för grundläggande AI-system
- Utforma och optimera orkestreringspipelines för flera modeller som kombinerar LLM:er, vektorsökning och domänspecifika modeller
- Leda granskningar av kostnads- och prestandastyrning med fokus på GPU-utnyttjande, modellgenomströmning och inferenseffektivitet
- Vara ordförande för designråd eller granskningsstyrelser för att främja teknisk enhetlighet och följsamhet till standarder för AI-utveckling
- Vara mentor för AI-ingenjörer på Principal- och Manager-nivå samtidigt som organisationens tekniska mognad utvecklas
Krav
- Kandidatexamen i datavetenskap, AI, elektroteknik, datorteknik eller ett närliggande område med minst 6 års erfarenhet av att utveckla AI- eller ML-algoritmer och -teknik, eller relevant masterexamen med minst 4 års erfarenhet
- Minst 6 års programmeringserfarenhet av Python, Go, Scala, CUDA eller Java
- Erfarenhet av att leda utveckling av AI-system med avvägningar mellan kostnad, svarstid, genomströmning och noggrannhet
- Minst 7 års erfarenhet av att driftsätta skalbara och ansvarsfulla AI-lösningar på molnplattformar
- Erfarenhet av att designa, utveckla, leverera och stödja komplexa AI-system
- Erfarenhet av att utveckla AI- eller ML-teknik såsom LLM-inferens, likhetssökning, vektordatabaser, skyddsmekanismer och minne
- Erfarenhet av att optimera tränings- och inferensprogramvara för hårdvaruutnyttjande, svarstid, genomströmning och kostnad
- Erfarenhet av att bygga agentiska AI-system och arbetsflöden
- Erfarenhet av att utforma arkitekturen för och integrera heterogena AI-system i enhetliga produktionspipelines
- Erfarenhet av att definiera och upprätthålla standarder för etisk AI-driftsättning, inklusive förklarbarhet, rättvisa och granskning med människa i loopen
- Förmåga att balansera modellprestanda mot driftskostnad genom dynamiska inferensstrategier och modellkomprimering
- Erfarenhet av att anpassa modellstorlek, antal instanser och hårdvarutyper
- Capital One kan sponsra en kvalificerad ny sökande för arbetstillstånd
Förmåner
- Prestationsbaserad incitamentsersättning kan omfatta kontantbonusar och/eller långsiktiga incitament
- Omfattande, konkurrenskraftiga och inkluderande hälso-, ekonomiska och andra förmåner utformade för att stödja det övergripande välbefinnandet
- Skäliga anpassningar är tillgängliga för sökande med funktionsnedsättning