OpenRouter es una plataforma de inteligencia artificial que ofrece a desarrolladores y equipos una forma unificada de acceder a modelos de lenguaje de gran escala de distintos proveedores y trabajar con ellos. Su catálogo de modelos incluye opciones como Mistral Small 3 y DeepSeek R1 Distill Qwen 32B, compatibles con aplicaciones que priorizan la velocidad, la precisión y la flexibilidad en la selección de modelos. OpenRouter también ofrece herramientas para programación y videojuegos, con posibles aplicaciones en áreas como el marketing, las finanzas y la educación.
Ingeniero/a de software de confianza y seguridad remoto en OpenRouter
Desarrolla sistemas contra el abuso, el fraude y los riesgos de seguridad de contenido para la infraestructura de enrutamiento de IA de OpenRouter. Gestiona la detección, las medidas de control, las herramientas de revisión y el análisis de riesgos.
Descripción
- Diseña y opera sistemas en los flujos de registro, pagos y uso para identificar pronto el abuso y el fraude
- Gestiona el flujo de medidas de control desde la detección hasta la revisión humana y las restricciones entre sistemas
- Crea herramientas de investigación y control, como colas de casos, resúmenes de evidencias, acciones masivas y alertas
- Desarrolla capacidades de seguridad de contenido en la ruta de inferencia, incluida la detección y notificación de contenido ilegal
- Integra o desarrolla sistemas KYC y fuentes externas de inteligencia para identificar de forma proactiva el fraude y el abuso
- Desarrolla sistemas de detección, herramientas operativas y heurísticas que permitan aplicar medidas de control rápidas y escalables
- Analiza incidentes en datos de producción, mide patrones emergentes y distingue el comportamiento abusivo de los falsos positivos
- Implementa monitorización de riesgos, aumentos repentinos de abuso y fraude, al tiempo que mejora las tasas de falsos positivos
- Orienta la estrategia técnica para la prevención del abuso y establece patrones de ingeniería reutilizables
- Colabora con científicos de datos para explorar características y entrenar modelos de aprendizaje automático para riesgos y abuso
Requisitos
- Al menos cuatro años de experiencia desarrollando y operando sistemas en producción, preferiblemente en confianza y seguridad, fraude, riesgo de pagos, seguridad o prevención del abuso
- Dominio de React, TypeScript, Next.js y entornos de ejecución de JavaScript
- Capacidad para consultar grandes conjuntos de datos de eventos con SQL
- Sólida comprensión de las tasas base, la precisión, la exhaustividad y las consecuencias de las decisiones incorrectas
- Criterio sólido cuando las pruebas son incompletas
- Alto sentido de la responsabilidad y clara orientación a la acción
- Estilo de trabajo orientado a la IA, que incluya el uso habitual de agentes de programación y automatización de flujos de trabajo
- Comodidad trabajando en un entorno pequeño y dinámico, con límites de equipo cambiantes
- Discreción y resiliencia al manejar material perturbador y datos sensibles de usuarios
- Sólidas habilidades de comunicación escrita y oral
- Interés por resolver problemas adversariales
- Se valorará: experiencia con herramientas de fraude en pagos, como Stripe Radar, contracargos, disputas o riesgo de pagos con criptomonedas
- Se valorará: experiencia con sistemas de identidad y KYC
- Se valorará: experiencia con abuso relacionado con LLM, incluidos jailbreaks, inyección de prompts, robo y reventa de claves, credenciales compartidas o creación automatizada de cuentas
- Se valorará: experiencia con grandes almacenes de datos analíticos, como ClickHouse o BigQuery, y plataformas de observabilidad
- Se valorará: familiaridad con los requisitos de notificación y cumplimiento para servicios de IA alojados
- Se valorará: experiencia usando OpenRouter o desarrollando proyectos personales en productos, infraestructura o herramientas para desarrolladores de IA
Beneficios
- Compensación en acciones
- Trabajo remoto dentro de Estados Unidos