Baseten
Baseten
Baseten ofrece infraestructura de inferencia de modelos para empresas que implementan aplicaciones de aprendizaje automático e inteligencia artificial. Su plataforma está diseñada para ofrecer servicios rápidos y escalables, combinando inferencia de alto rendimiento, implementación ágil, escalado automático, servicio seguro de modelos para empresas y compatibilidad con el empaquetado de modelos de código abierto. Baseten ayuda a los equipos de ingeniería y aprendizaje automático a gestionar las exigencias operativas de la infraestructura de modelos para que puedan centrarse en desarrollar modelos específicos para cada dominio. La empresa opera en los sectores de la inteligencia artificial, el software como servicio y la tecnología empresarial, y cuenta con un equipo de entre 11 y 50 empleados.

Ingeniero de software, plataforma de inferencia LLM - Baseten híbrido

Construye la plataforma distribuida de inferencia LLM de Baseten para empresas de IA. Trabaja con orquestación de Kubernetes, API de modelos, enrutamiento, escalado automático y observabilidad en producción.

Descripción

  • Construye infraestructura y orquestación para inferencia LLM distribuida a gran escala, cubriendo el enrutamiento, el escalado automático, la programación y la gestión del tiempo de ejecución.
  • Desarrolla y opera API de modelos compatibles con salidas estructuradas, llamadas a herramientas y funciones, y servicio multimodal.
  • Implementa el versionado de API, la validación de solicitudes, la medición del uso, las cuotas y la autenticación.
  • Crea instrumentación para métricas, trazas y registros, junto con benchmarks reproducibles de velocidad, fiabilidad y calidad.
  • Define prácticas sólidas para las pruebas, la automatización de lanzamientos y la excelencia operativa.
  • Diagnostica y refuerza sistemas de producción en Kubernetes, entornos de ejecución distribuidos, redes y cargas de trabajo de GPU.
  • Colabora con ingenieros de rendimiento de inferencia y equipos colaboradores para ofrecer optimizaciones orientadas al cliente.
  • Lidera proyectos desde la arquitectura y el despliegue hasta la monitorización y la iteración basada en los comentarios de los clientes.
  • Equilibra el rendimiento del sistema, la fiabilidad, la simplicidad operativa y la experiencia de los desarrolladores.

Requisitos

  • Título universitario, de máster o doctoral en informática, ingeniería o un campo relacionado, o experiencia práctica equivalente.
  • Al menos tres años de experiencia creando y operando sistemas distribuidos, infraestructura backend o API a gran escala donde la fiabilidad, la latencia y la escala sean fundamentales.
  • Experiencia demostrada haciéndose cargo de servicios backend fiables y de baja latencia que impliquen limitación de velocidad, autenticación, cuotas, medición y migraciones.
  • Sólido criterio en infraestructura, incluida experiencia con perfilado, trazas, planificación de capacidad y gestión de SLO.
  • Capacidad para diagnosticar problemas de rendimiento y fiabilidad en las capas de aplicación, tiempo de ejecución e infraestructura.
  • Gran enfoque en la experiencia de los desarrolladores.
  • Disposición para aprender nuevos lenguajes, frameworks y sistemas, con interés en la ingeniería de inferencia.
  • Excelentes habilidades de comunicación escrita y colaboración, incluida la documentación clara de diseños y el trabajo eficaz entre equipos.
  • Se valorará la experiencia o las contribuciones a motores o frameworks de inferencia LLM como vLLM, SGLang, TensorRT-LLM, TGI o Dynamo.
  • Amplia experiencia con Kubernetes, incluidos operadores y recursos personalizados; se valorará la familiaridad con mallas de servicios o gateways de API.
  • Se valorará la experiencia con programación distribuida, escalado automático u orquestación de servicios.
  • Se valorará la experiencia ejecutando cargas de trabajo de GPU en producción.
  • Se valorará la experiencia en infraestructura o API orientadas a desarrolladores, o las contribuciones a infraestructura de código abierto o sistemas de aprendizaje automático.
  • Se valorará la familiaridad con herramientas de observabilidad, sistemas de CI/CD o automatización de lanzamientos.

Beneficios

  • Compensación competitiva con una participación significativa en el capital.
  • Para empleados y dependientes en Estados Unidos, cobertura completa del seguro médico, dental y oftalmológico.
  • Tiempo libre remunerado flexible, incluido un descanso de invierno para toda la empresa.
  • Permiso parental remunerado.
  • Apoyo para tratamientos de fertilidad y formación de familias mediante un estipendio de Carrot.
  • Para empleados en Estados Unidos, un plan 401(k) gestionado por la empresa.
  • Exposición a una variedad de startups de aprendizaje automático, lo que ofrece amplias oportunidades de aprendizaje y creación de redes profesionales.

Empleos relacionados

AllCloud

Ingeniero DevOps remoto con hebreo — Rumanía

AllCloud

Crea y automatiza entornos AWS e implementaciones en la nube para los clientes de AllCloud. El puesto abarca monitorización, resolución de problemas, arquitectura y atención centrada en el cliente.

Abrir
CenExel

Responsable de desarrollo de negocio remoto, servicios de ensayos clínicos

CenExel

Lidera el crecimiento de ventas de CTSdatabase, el registro de ensayos clínicos de CenExel, mediante el desarrollo de carteras de patrocinadores y CRO, la formalización de contratos y el apoyo a servicios de investigación clínica.

Abrir
Iridium

Gerente sénior de desarrollo de negocio OEM

Iridium

Impulsa el ecosistema global de dispositivos satelitales NTN de Iridium mediante alianzas con fabricantes de equipos originales, proveedores de chipsets, módulos y dispositivos. Gestiona las relaciones con socios desde la negociación y la integración de diseño hasta la certificación, el lanzamiento y el crecimiento continuo.

Abrir
Progress

Ingeniero sénior de confiabilidad de sitios

Progress

Ayuda a proteger y escalar la infraestructura de software en la nube de Progress. Automatiza operaciones, respuesta a incidentes, cumplimiento y aprovisionamiento de clientes en India.

Abrir
Machina Labs

Director de Desarrollo de Negocio de Defensa para Europa y Oriente Medio

Machina Labs
51 – 200 Empleados
ConsultoríaDefensaLogística

Lidera el desarrollo de negocio de defensa de Machina Labs en los mercados europeos y amplía las oportunidades para sus fábricas de fabricación definidas por software. Establece relaciones con grandes empresas del sector y convierte los contactos técnicos en pruebas de concepto, programas de cualificación y producción.

Abrir
Health Advocate

Ejecutivo sénior de desarrollo de negocios

Health Advocate

Lidera las ventas a grandes empresas de las soluciones de navegación sanitaria, defensa de los pacientes, bienestar y EAP de Health Advocate. Desarrolla nuevos negocios y relaciones en los territorios de ventas asignados en Estados Unidos.

Abrir
Verisys

Ingeniero sénior de infraestructura en la nube de AWS

Verisys
201 – 500 Empleados

Diseña y protege la infraestructura de AWS para la plataforma de acreditación sanitaria de Verisys. El puesto abarca sistemas Linux y Windows, Nutanix, contenedores, certificados y cumplimiento normativo.

Abrir