Capital One es una empresa de servicios financieros y tecnología financiera que ofrece tarjetas de crédito, préstamos para automóviles y productos bancarios y de ahorro. Su trabajo combina la experiencia financiera con la tecnología y las herramientas digitales para mejorar la forma en que los clientes administran su dinero. La empresa centra sus oportunidades profesionales en desarrollar soluciones orientadas al cliente dentro de una plantilla diversa e inclusiva.
Ingeniero/a de IA 5, alojamiento de modelos fundacionales e inferencia de LLM
Lidera el desarrollo y la optimización del alojamiento de modelos fundacionales, la inferencia de LLM y la infraestructura de IA agéntica. Crea sistemas escalables y responsables que mejoren las capacidades de IA y las experiencias bancarias en Capital One.
Descripción
- Colaborar con ingenieros, científicos de investigación, responsables de programas técnicos y responsables de producto para desarrollar productos impulsados por IA
- Diseñar, desarrollar, probar, implementar y mantener software de IA que abarque el entrenamiento de modelos fundacionales, la inferencia de LLM, agentes, flujos de trabajo multiagente, búsqueda por similitud, mecanismos de protección, evaluación, experimentación, gobernanza y observabilidad
- Aplicar tecnologías de IA de código abierto y SaaS, incluidos AWS Ultraclusters, Hugging Face, bases de datos vectoriales y PyTorch
- Desarrollar métodos de optimización de modelos fundacionales que mejoren la escalabilidad, la eficiencia de costes, la latencia y el rendimiento de los sistemas de IA en producción
- Contribuir a definir la visión técnica y la hoja de ruta a largo plazo de los sistemas de IA fundacionales
- Diseñar y optimizar canales de orquestación multimodelo que combinen LLM, búsqueda vectorial y modelos específicos del dominio
- Liderar revisiones de gobernanza de costes y rendimiento que abarquen la utilización de GPU, el rendimiento de los modelos y la eficiencia de la inferencia
- Presidir consejos de diseño o comités de revisión para promover la coherencia técnica y el cumplimiento de los estándares de ingeniería de IA
- Orientar a ingenieros de IA de nivel Principal y Manager mientras se impulsa la madurez técnica de la organización
Requisitos
- Grado universitario en Informática, IA, Ingeniería Eléctrica, Ingeniería Informática o un campo relacionado, con al menos 6 años de experiencia en el desarrollo de algoritmos y tecnologías de IA o ML, o un máster relevante con al menos 4 años de experiencia
- Al menos 6 años de experiencia programando con Python, Go, Scala, CUDA o Java
- Experiencia liderando el desarrollo de sistemas de IA mientras se equilibran el coste, la latencia, el rendimiento y la precisión
- Al menos 7 años de experiencia implementando soluciones de IA escalables y responsables en plataformas en la nube
- Experiencia diseñando, desarrollando, entregando y dando soporte a sistemas de IA complejos
- Experiencia desarrollando tecnologías de IA o ML como inferencia de LLM, búsqueda por similitud, bases de datos vectoriales, mecanismos de protección y memoria
- Experiencia optimizando software de entrenamiento e inferencia para la utilización del hardware, la latencia, el rendimiento y el coste
- Experiencia creando sistemas y flujos de trabajo de IA agéntica
- Experiencia diseñando e integrando sistemas de IA heterogéneos en canales de producción unificados
- Experiencia definiendo y haciendo cumplir estándares de implementación ética de IA, incluida la explicabilidad, la equidad y la revisión humana
- Capacidad para equilibrar el rendimiento del modelo con el coste operativo mediante estrategias de inferencia dinámica y compresión de modelos
- Experiencia ajustando el tamaño de los modelos, el número de instancias y los tipos de hardware
- Capital One puede patrocinar a un nuevo solicitante cualificado para obtener autorización de empleo
Beneficios
- La compensación de incentivos basada en el rendimiento puede incluir bonificaciones en efectivo o incentivos a largo plazo
- Beneficios integrales, competitivos e inclusivos de salud, financieros y de otro tipo, diseñados para apoyar el bienestar general
- Hay adaptaciones razonables disponibles para solicitantes con discapacidades