51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
Expert in AI-safety-red-teaming – Engels en Fins, op afstand in de Verenigde Staten
Voer adversariële tests uit op conversationele AI-modellen en -agenten voor Mercors AI-projecten met menselijke data. Maak reproduceerbare gegevens over kwetsbaarheden om geavanceerde AI-systemen robuuster te maken.
Beschrijving
- Test conversationele AI-modellen en -agenten met jailbreaks, promptinjecties, misbruikscenario's, uitbuiting van vooroordelen en meerturnmanipulatie
- Documenteer fouten, categoriseer kwetsbaarheden en identificeer systeemrisico's
- Pas gevestigde taxonomieën, benchmarks en playbooks toe voor consistente evaluaties
- Maak reproduceerbare rapporten, datasets en aanvalsscenario's voor klanten
- Identificeer kwetsbaarheden die geautomatiseerde tests mogelijk over het hoofd zien
- Vergroot de evaluatiedekking en help onverwachte problemen in productie te verminderen
- Werk samen met toonaangevende onderzoekers aan projecten die AI-systemen trainen en verbeteren
Vereisten
- Vloeiende of moedertaalvaardigheid in het Engels en Fins
- Eerdere ervaring met red teaming op het gebied van adversariële AI, cybersecurity of sociotechnische probing
- Vermogen om AI-systemen adversarieel te testen en naar hun faalpunten te sturen
- Ervaring met het toepassen van frameworks of benchmarks voor gestructureerd testen
- Vermogen om risico's duidelijk te communiceren aan technische en niet-technische doelgroepen
- Aanpassingsvermogen aan verschillende projecten en klantvereisten
- Beschikbaarheid voor een opdracht als zelfstandig opdrachtnemer
- Je mag geen H-1B- of STEM-OPT-kandidaat zijn
- Bij voorkeur: ervaring met adversarial machine learning, waaronder jailbreakdatasets, promptinjectie, RLHF-/DPO-aanvallen of model-extractie
- Bij voorkeur: cybersecurityervaring met penetratietests, exploitontwikkeling of reverse engineering
- Bij voorkeur: ervaring met sociotechnische risico's, zoals het onderzoeken van intimidatie of desinformatie, misbruikanalyse of het testen van conversationele AI
- Bij voorkeur: ervaring in psychologie, acteren of schrijven die onconventioneel adversarieel denken ondersteunt
Voordelen
- Volledig op afstand werken
- Flexibele planning
- Wekelijkse betalingen via Stripe of Wise
- Wellnessvoorzieningen en duidelijke richtlijnen voor projecten met een hogere gevoeligheid
- Mogelijkheid om ervaring op te doen met red teaming van AI met menselijke data
- Directe mogelijkheid om AI-systemen robuuster, veiliger en betrouwbaarder te maken
- Competitieve vergoeding
- Verwijsbonus van maximaal $250 voor elke succesvolle verwijzing