TMTG, o Trump Media & Technology Group, es una empresa de medios y tecnología cuyas plataformas se centran en las redes sociales, el entretenimiento en streaming, las noticias y la cultura. Ofrece espacios para que usuarios y creadores compartan y publiquen contenido, y presenta sus servicios como alternativas a las narrativas de los medios convencionales.
Ingeniero sénior de backend, plataforma de IA
Desarrolla funciones de LLM listas para producción e infraestructura de IA esencial para una plataforma social con millones de usuarios. Lidera los sistemas de recuperación, servicio de modelos, evaluación y seguridad.
Descripción
- Desarrolla funciones de IA para una plataforma social con millones de usuarios.
- Colabora estrechamente con el arquitecto de plataforma y el equipo de ingeniería.
- Crea infraestructura de IA esencial en un entorno desde cero.
- Ayuda a definir las prácticas de ingeniería a medida que crece el equipo.
- Conecta servicios con aplicaciones de Ruby on Rails y React/TypeScript.
- Se responsabiliza de los servicios de backend, desde el diseño del esquema de datos hasta el despliegue y las operaciones de guardia.
- Desarrolla y opera sistemas de servicio de LLM, recuperación, evaluación, instrumentación y seguridad.
Requisitos
- Al menos cinco años de experiencia en ingeniería de backend con un lenguaje de tipado estático, como Go, Java, Kotlin o C#.
- Experiencia en producción desarrollando funciones basadas en LLM, incluida la generación aumentada por recuperación, las respuestas en streaming y el uso de herramientas.
- Experiencia práctica con infraestructura para servir LLM, como enrutamiento entre varios proveedores, conmutación por error, streaming de tokens y seguimiento de costes y uso.
- Experiencia creando sistemas de recuperación con búsqueda vectorial, canalizaciones de embeddings, ensamblado de contexto y respuestas respaldadas por citas.
- Capacidad para instrumentar alucinaciones, fallos de recuperación, interrupciones de proveedores y excesos de costes.
- Experiencia evaluando la calidad de respuestas de IA en cuanto a relevancia, seguridad, calidad de las fuentes y resultados reproducibles.
- Sólidas habilidades de diseño de API.
- Capacidad para hacerse cargo de un servicio desde el diseño del esquema hasta el despliegue y el soporte de guardia.
- Residir en Estados Unidos y tener autorización para trabajar allí.
- Se valora especialmente Go.
- Experiencia con Python.
- Experiencia con pasarelas de LLM o herramientas para servir modelos, como LiteLLM, vLLM o TGI.
- Experiencia con bases de datos vectoriales como Qdrant o pgvector y con canalizaciones de embeddings.
- Experiencia ajustando modelos de pesos abiertos con LoRA o mediante ajuste fino completo.
- Experiencia con herramientas de moderación de contenido o seguridad.
- Familiaridad con Ruby on Rails o React/TypeScript.