Baseten
Baseten
Baseten ofrece infraestructura de inferencia de modelos para empresas que implementan aplicaciones de aprendizaje automático e inteligencia artificial. Su plataforma está diseñada para ofrecer servicios rápidos y escalables, combinando inferencia de alto rendimiento, implementación ágil, escalado automático, servicio seguro de modelos para empresas y compatibilidad con el empaquetado de modelos de código abierto. Baseten ayuda a los equipos de ingeniería y aprendizaje automático a gestionar las exigencias operativas de la infraestructura de modelos para que puedan centrarse en desarrollar modelos específicos para cada dominio. La empresa opera en los sectores de la inteligencia artificial, el software como servicio y la tecnología empresarial, y cuenta con un equipo de entre 11 y 50 empleados.

Gerente de Ingeniería, Rendimiento de Inferencia en GPU en Baseten

Lidera la ingeniería del rendimiento de inferencia en GPU en Baseten, una empresa de infraestructura de IA. Impulsa la optimización del tiempo de ejecución, la eficiencia de los modelos y el crecimiento de un equipo técnico especializado.

Descripción

  • Gestionar, asesorar y desarrollar a ingenieros de rendimiento de inferencia mediante reuniones individuales periódicas, comentarios, planificación profesional y evaluaciones de desempeño
  • Reclutar ingenieros especializados en GPU e inferencia mientras se fomenta una cultura de equipo colaborativa
  • Ser responsable de la hoja de ruta y la ejecución del rendimiento del tiempo de ejecución
  • Revisar diseños técnicos, dirigir el trabajo de creación de perfiles y optimización, y ayudar a los ingenieros a evaluar el uso de tiempo y memoria
  • Llevar a producción la cuantización, la decodificación especulativa, la reutilización de la caché KV, el prellenado por fragmentos y la programación personalizada
  • Traducir las mejoras de rendimiento en avances medibles en tokens por hora de GPU, utilización, latencia y costos
  • Incorporar nuevas arquitecturas de modelos al hardware emergente y ajustar su rendimiento
  • Colaborar con los equipos de Infraestructura, Plataforma de Inferencia, Kernels, API de Modelos y atención al cliente para priorizar el trabajo, coordinar lanzamientos y ofrecer mejoras
  • Establecer estándares de ingeniería para la calidad, las pruebas comparativas, la excelencia operativa y la respuesta ante incidentes
  • Impulsar la optimización de inferencia agéntica, los kernels agénticos, el entrenamiento de modelos con decodificación especulativa y Baseten Inference Stack

Requisitos

  • Título de grado, maestría o doctorado en ciencias de la computación, ingeniería, matemáticas o una disciplina relacionada
  • Experiencia de gestión que incluya contratación de ingenieros, mentoría, comentarios y evaluaciones de desempeño
  • Experiencia liderando o apoyando estrechamente equipos de optimización de GPU en entrenamiento, inferencia o sistemas de recomendación
  • Conocimientos técnicos profundos sobre cargas de trabajo de GPU, arquitectura y compensaciones de rendimiento
  • Familiaridad con bibliotecas de aprendizaje automático, como PyTorch, TensorRT o TensorRT-LLM
  • Capacidad demostrada para establecer hojas de ruta y entregar proyectos técnicos complejos con un equipo
  • Sólidas habilidades de comunicación escrita y verbal para alinear a las partes interesadas entre equipos
  • Familiaridad con motores de inferencia como vLLM, SGLang o TensorRT-LLM
  • Experiencia aplicando métodos de optimización de LLM, como cuantización, decodificación especulativa y procesamiento por lotes continuo
  • Experiencia desarrollando o trabajando con kernels de GPU mediante CUDA, Triton o CUTLASS
  • Experiencia ampliando un equipo de ingeniería durante un rápido crecimiento de una startup
  • Experiencia práctica previa como ingeniero de rendimiento o sistemas antes de pasar a la gestión

Beneficios

  • Paquete de compensación competitivo con una participación accionaria significativa
  • Para empleados en Estados Unidos, cobertura médica, dental y oftalmológica completa para empleados y personas dependientes
  • Tiempo libre remunerado flexible, incluido un receso de invierno para toda la empresa
  • Licencia parental remunerada
  • Apoyo para la fertilidad y la formación de familias mediante Carrot
  • Para empleados en Estados Unidos, plan 401(k) facilitado por la empresa
  • Oportunidades de trabajar con diversas startups de aprendizaje automático y crear conexiones en el sector

Empleos relacionados

Turner & Townsend

Arquitecto/a de proyectos, instalaciones para vehículos eléctricos

Turner & Townsend

Diseña instalaciones de operaciones para vehículos eléctricos con metodología BIM para Turner & Townsend. Desarrolla documentación arquitectónica coordinada para varios proyectos de instalaciones prototipo.

Abrir
INDIE Solutions GmbH

Arquitecto sénior líder de sistemas Pega

INDIE Solutions GmbH

Lidera la arquitectura y la entrega de soluciones Pega escalables para una empresa alemana de tecnología y digitalización. Da forma a la implementación de proyectos y a la preventa, e impulsa el crecimiento de la práctica Pega.

Abrir
Alliance Health

Analista de negocio de TI para CRM

Alliance Health

Recopila requisitos, realiza pruebas y mejora las soluciones Salesforce para Alliance Health. Este puesto en Carolina del Norte es principalmente remoto, con visitas ocasionales a las oficinas de Alliance.

Abrir
workidentity GmbH

Arquitecto de Soluciones Empresariales, Procesos y Cadena de Herramientas EAM

workidentity GmbH

Define los procesos y la cadena de herramientas de gestión de arquitectura empresarial para un grupo internacional de servicios. Asume la responsabilidad de las integraciones, la calidad de los datos y la madurez de los procesos.

Abrir
Pella Windows & Doors of North Carolina and Southwest Virginia

Líder sénior de TI, arquitecto de transformación ERP

Pella Windows & Doors of North Carolina and Southwest Virginia

Lidera la arquitectura de la implementación del ERP de nueva generación de Pella Corporation, conectando los sistemas empresariales con las operaciones de fabricación. Define flujos de trabajo, hojas de ruta tecnológicas y gobernanza junto con líderes empresariales y socios tecnológicos.

Abrir
Tubi

Gerente de Ingeniería Backend — Tubi (híbrido, San Francisco)

Tubi

Lidera la ingeniería backend en Tubi, con enfoque en API, microservicios de Kubernetes, integraciones de plataforma e infraestructura para tráfico global de streaming. Gestiona ingenieros mientras impulsa sistemas escalables, seguros y de alta disponibilidad.

Abrir