Capital One est une entreprise de services financiers et de technologie financière qui propose des cartes de crédit, des prêts automobiles ainsi que des produits bancaires et d’épargne. Son activité associe expertise financière, technologie et outils numériques pour améliorer la manière dont les clients gèrent leur argent. Les carrières au sein de l’entreprise sont axées sur la création de solutions centrées sur les clients, dans un environnement de travail diversifié et inclusif.
Ingénieur IA 5, hébergement de modèles fondamentaux et inférence des LLM
Diriger le développement et l’optimisation de l’hébergement de modèles fondamentaux, de l’inférence des LLM et de l’infrastructure d’IA agentique. Créer des systèmes évolutifs et responsables qui améliorent les capacités d’IA et les expériences bancaires chez Capital One.
Description
- Collaborer avec des ingénieurs, des scientifiques de recherche, des responsables de programmes techniques et des responsables produit pour fournir des produits propulsés par l’IA
- Concevoir, développer, tester, déployer et maintenir des logiciels d’IA couvrant l’entraînement de modèles fondamentaux, l’inférence des LLM, les agents, les flux de travail multi-agents, la recherche par similarité, les garde-fous, l’évaluation, l’expérimentation, la gouvernance et l’observabilité
- Appliquer des technologies d’IA open source et SaaS, notamment AWS Ultraclusters, Hugging Face, les bases de données vectorielles et PyTorch
- Développer des méthodes d’optimisation des modèles fondamentaux qui améliorent l’évolutivité, l’efficacité des coûts, la latence et le débit des systèmes d’IA en production
- Contribuer à définir la vision technique et la feuille de route à long terme des systèmes d’IA fondamentaux
- Architecturer et optimiser des pipelines d’orchestration multimodèle combinant des LLM, la recherche vectorielle et des modèles propres au domaine
- Diriger des revues de gouvernance des coûts et des performances couvrant l’utilisation des GPU, le débit des modèles et l’efficacité de l’inférence
- Présider des conseils de conception ou des comités de revue afin de promouvoir la cohérence technique et le respect des normes d’ingénierie de l’IA
- Encadrer des ingénieurs IA de niveau Principal et Manager tout en faisant progresser la maturité technique de l’organisation
Exigences
- Diplôme de licence en informatique, en IA, en génie électrique, en génie informatique ou dans un domaine connexe, avec au moins 6 ans d’expérience dans le développement d’algorithmes et de technologies d’IA ou de ML, ou diplôme de master pertinent avec au moins 4 ans d’expérience
- Au moins 6 ans d’expérience en programmation avec Python, Go, Scala, CUDA ou Java
- Expérience de la direction du développement de systèmes d’IA tout en équilibrant les coûts, la latence, le débit et la précision
- Au moins 7 ans d’expérience dans le déploiement de solutions d’IA évolutives et responsables sur des plateformes cloud
- Expérience de la conception, du développement, de la livraison et du support de systèmes d’IA complexes
- Expérience du développement de technologies d’IA ou de ML telles que l’inférence des LLM, la recherche par similarité, les bases de données vectorielles, les garde-fous et la mémoire
- Expérience de l’optimisation de logiciels d’entraînement et d’inférence pour l’utilisation du matériel, la latence, le débit et les coûts
- Expérience de la création de systèmes et de flux de travail d’IA agentique
- Expérience de l’architecture et de l’intégration de systèmes d’IA hétérogènes dans des pipelines de production unifiés
- Expérience de la définition et de l’application de normes de déploiement éthique de l’IA, notamment en matière d’explicabilité, d’équité et de contrôle humain
- Capacité à équilibrer les performances des modèles et les coûts d’exploitation grâce à des stratégies d’inférence dynamique et à la compression des modèles
- Expérience du dimensionnement approprié des modèles, du nombre d’instances et des types de matériel
- Capital One peut parrainer un nouveau candidat qualifié pour l’obtention d’une autorisation de travail
Avantages
- La rémunération incitative fondée sur les performances peut inclure des primes en espèces et/ou des incitations à long terme
- Des avantages complets, compétitifs et inclusifs en matière de santé, de finances et autres, conçus pour favoriser le bien-être général
- Des aménagements raisonnables sont disponibles pour les candidats en situation de handicap