ActiveFence
ActiveFence
ActiveFence est une entreprise de cybersécurité et d’intelligence artificielle spécialisée dans la confiance et la sécurité des plateformes en ligne. Son offre complète associe la recherche en matière de renseignement, la détection des contenus préjudiciables par l’IA et des outils de modération de contenu afin d’aider les plateformes à faire face à des risques tels que l’exploitation des enfants, la désinformation, les discours haineux, le terrorisme, la nudité, la fraude et d’autres formes de préjudice en ligne. ActiveFence accompagne des équipes chargées de la confiance et de la sécurité de différentes tailles et contribue à protéger plus de trois milliards d’utilisateurs dans le monde, dans plus de 100 langues.

Chercheur senior en IA – Hybride en Israël

Piloter l’évaluation par apprentissage par renforcement, les exercices de red teaming et les audits de sécurité de modèles d’IA à poids ouverts. Concevoir des pipelines de benchmarking et de post-entraînement pour les activités de confiance, de sûreté et de sécurité de l’IA d’ActiveFence.

Description

  • Piloter les évaluations post-entraînement, les exercices de red teaming et les audits d’environnements d’apprentissage par renforcement pour des modèles à poids ouverts
  • Concevoir des méthodologies de benchmarking rigoureuses
  • Évaluer de grands modèles de langage face à des menaces sophistiquées, notamment les attaques par injection indirecte de prompts
  • Construire des pipelines d’évaluation post-entraînement mesurant des capacités de sécurité réalistes de niveau frontier
  • Mener des expériences post-entraînement, telles que GRPO, avec des modèles généralistes à poids ouverts dans des environnements d’apprentissage par renforcement axés sur la sécurité
  • Examiner les courbes de perte en direct et les traces de rollouts afin de détecter le hacking des récompenses, la convergence paresseuse des politiques et les vérificateurs mal spécifiés
  • Évaluer des tâches et des environnements multi-tours impliquant l’utilisation d’outils, la navigation web et l’utilisation d’un ordinateur selon leur réalisme, la précision du modèle de menace, la distribution des données et l’équilibre du jeu de données
  • Produire des fiches d’évaluation couvrant les gains de performance des checkpoints, les modes d’échec, les tokens et les tours des rollouts, ainsi que les taux de réussite au niveau des tâches
  • Intégrer des environnements Dockerisés, notamment des environnements au format Harbor, dans des frameworks internes d’entraînement
  • Améliorer la sémantique de réinitialisation et de conservation de l’état, la concurrence et les limites de débit

Exigences

  • Master ou doctorat en science des données, apprentissage automatique, informatique, ou expérience pratique équivalente en apprentissage profond
  • Expérience pratique de l’entraînement de modèles à grande échelle avec des algorithmes d’apprentissage par renforcement tels que GRPO ou PPO sur des architectures à poids ouverts
  • Excellente connaissance des vulnérabilités des LLM, des pratiques de red teaming et de l’alignement défensif contre les attaques par injection indirecte de prompts
  • Maîtrise de PyTorch, de la conteneurisation Docker et des architectures d’entraînement distribué
  • Capacité à interpréter les traces de rollouts d’agents, à créer des rubriques et des vérificateurs déterministes et à déboguer des problèmes complexes de façonnage des récompenses
  • Une expérience des formats standards d’environnements d’apprentissage par renforcement tels que Harbor est souhaitée
  • Une expérience de l’évaluation de flux de travail agentiques complexes dans des environnements d’utilisation d’outils ou de navigateurs web est souhaitée
  • Une bonne connaissance de l’évaluation de modèles à poids ouverts de type Llama ou Mistral face à des charges de travail adversariales est souhaitée

Offres similaires

inDrive

Spécialiste du service client – inDrive, Kuala Lumpur

inDrive
1 001 – 5 000 Employés
LogistiqueMarketingVoyages

Accompagnez les clients de la plateforme de mobilité inDrive par chat, e-mail et, ponctuellement, par téléphone. Résolvez les problèmes de service, gérez les remboursements et contribuez aux objectifs de satisfaction client et de qualité.

Ouvrir
Ovoko \ RRR.LT

Ingénieur senior en plateformes de données

Ovoko \ RRR.LT

Développez l’infrastructure de données qui soutient la place de marché de pièces automobiles d’occasion d’Ovoko, ainsi que l’analytique, l’IA et le développement produit. Travaillez avec Kubernetes, AWS et Snowflake pour garantir des plateformes de données fiables et évolutives.

Ouvrir
ESTO Group

Spécialiste du service client parlant lituanien

ESTO Group
51 – 200 Employés
FinanceFintech

Accompagnez les clients lituaniens dans l’utilisation des services financiers et de paiement flexible d’ESTO, en alliant service client et ventes B2C. Gérez les demandes et les échanges commerciaux par téléphone, e-mail et chat.

Ouvrir
Curana Health

Directeur de l’ingénierie des données

Curana Health
1 001 – 5 000 Employés
Assurance santéB2BSoins de santé

Pilotez l’ingénierie des données de la plateforme de soins aux seniors fondés sur la valeur de Curana Health, en modernisant son infrastructure de données, ses pipelines et la production d’analyses, tout en encadrant une équipe d’ingénieurs de données.

Ouvrir