Capital One je spoločnosť poskytujúca finančné služby a fintech riešenia, ktorá ponúka kreditné karty, úvery na automobily, bankové produkty a sporenie. Jej činnosť spája odborné znalosti z oblasti financií s technológiami a digitálnymi nástrojmi s cieľom zlepšovať spôsob, akým zákazníci spravujú svoje financie. Kariérne zameranie spoločnosti zahŕňa tvorbu riešení orientovaných na zákazníkov v rozmanitom a inkluzívnom pracovnom prostredí.
AI inžinier 5, hosting základných modelov a inferencia LLM
Viesť vývoj a optimalizáciu hostingu základných modelov, inferencie LLM a infraštruktúry agentnej AI. Budovať škálovateľné a zodpovedné systémy, ktoré zlepšujú schopnosti AI a bankové služby v Capital One.
Popis
- Spolupracovať s inžiniermi, výskumnými pracovníkmi, technickými programovými manažérmi a produktovými manažérmi na tvorbe produktov využívajúcich AI
- Navrhovať, vyvíjať, testovať, nasadzovať a podporovať softvér AI zahŕňajúci trénovanie základných modelov, inferenciu LLM, agentov, viacagentové pracovné postupy, vyhľadávanie podobnosti, ochranné mechanizmy, vyhodnocovanie, experimentovanie, riadenie a observabilitu
- Využívať open-source a SaaS technológie AI vrátane AWS Ultraclusters, Hugging Face, vektorových databáz a PyTorch
- Vyvíjať metódy optimalizácie základných modelov, ktoré zlepšujú škálovateľnosť, nákladovú efektívnosť, latenciu a priepustnosť produkčných systémov AI
- Spoluvytvárať technickú víziu a dlhodobý plán rozvoja základných systémov AI
- Navrhovať architektúru a optimalizovať orchestračné pipeline s viacerými modelmi, ktoré kombinujú LLM, vektorové vyhľadávanie a doménovo špecifické modely
- Viesť kontroly riadenia nákladov a výkonu zamerané na využitie GPU, priepustnosť modelov a efektívnosť inferencie
- Predsedávať odborným radám alebo kontrolným výborom s cieľom podporovať technickú konzistentnosť a dodržiavanie štandardov inžinierstva AI
- Mentorovať AI inžinierov na úrovni Principal a Manager a zároveň zvyšovať technickú vyspelosť organizácie
Požiadavky
- Bakalárske vzdelanie v odbore informatika, AI, elektrotechnika, počítačové inžinierstvo alebo príbuznom odbore a najmenej 6 rokov skúseností s vývojom algoritmov a technológií AI alebo ML, prípadne relevantné magisterské vzdelanie a najmenej 4 roky skúseností
- Najmenej 6 rokov programátorskej praxe v jazykoch Python, Go, Scala, CUDA alebo Java
- Skúsenosti s vedením vývoja systémov AI pri vyvažovaní nákladov, latencie, priepustnosti a presnosti
- Najmenej 7 rokov skúseností s nasadzovaním škálovateľných a zodpovedných riešení AI na cloudových platformách
- Skúsenosti s návrhom, vývojom, dodávaním a podporou komplexných systémov AI
- Skúsenosti s vývojom technológií AI alebo ML, ako sú inferencia LLM, vyhľadávanie podobnosti, vektorové databázy, ochranné mechanizmy a pamäť
- Skúsenosti s optimalizáciou softvéru na trénovanie a inferenciu s ohľadom na využitie hardvéru, latenciu, priepustnosť a náklady
- Skúsenosti s tvorbou agentných systémov a pracovných postupov AI
- Skúsenosti s návrhom architektúry a integráciou heterogénnych systémov AI do jednotných produkčných pipeline
- Skúsenosti s definovaním a presadzovaním štandardov etického nasadzovania AI vrátane vysvetliteľnosti, spravodlivosti a kontroly človekom v slučke
- Schopnosť vyvažovať výkon modelu s prevádzkovými nákladmi prostredníctvom dynamických inferenčných stratégií a kompresie modelov
- Skúsenosti s optimalizáciou veľkosti modelov, počtu inštancií a typov hardvéru
- Capital One môže kvalifikovanému novému uchádzačovi sponzorovať pracovné povolenie
Benefity
- Motivačná odmena na základe výkonu môže zahŕňať hotovostné bonusy a/alebo dlhodobé stimuly
- Komplexné, konkurencieschopné a inkluzívne zdravotné, finančné a ďalšie benefity navrhnuté na podporu celkovej pohody
- Uchádzačom so zdravotným postihnutím sú k dispozícii primerané úpravy