51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
AI-veiligheidsexpert, Engels en Nederlands (contract op afstand)
Mercor zoekt Engelstalige en Nederlandstalige AI-veiligheidsexperts om conversationele modellen en agents red-teamend te testen. Het werk omvat het creëren van gegevens over kwetsbaarheden, aanvalsscenario's en reproduceerbare veiligheidsrapporten voor de ontwikkeling van geavanceerde AI-systemen.
Beschrijving
- Test conversationele AI-modellen en agents met jailbreaks, promptinjectie, misbruikscenario's, het uitbuiten van vooroordelen en meerstapsmanipulatie
- Maak door mensen gegenereerde gegevens door fouten te annoteren, kwetsbaarheden te classificeren en systemische risico's te identificeren
- Gebruik taxonomieën, benchmarks en playbooks om consistente veiligheidstests te ondersteunen
- Ontwikkel reproduceerbare rapporten, datasets en aanvalsscenario's voor klanten
- Vind kwetsbaarheden die geautomatiseerde tests mogelijk over het hoofd zien
- Vergroot de evaluatiedekking om onverwachte productierisico's te helpen verminderen
- Werk samen met vooraanstaande onderzoekers aan het trainen en verbeteren van geavanceerde AI-systemen
Vereisten
- Vloeiend op moedertaalniveau in het Engels en Nederlands
- Eerdere ervaring met AI-red-teaming, offensieve cybersecurity of sociotechnisch onderzoek
- Vermogen om AI-systemen adversarieel te testen en doelgericht naar faalcondities te sturen
- Ervaring met het toepassen van frameworks of benchmarks voor gestructureerd testen
- Vermogen om risico's duidelijk te communiceren aan technische en niet-technische doelgroepen
- Vermogen om zich aan te passen aan verschillende projecten en klanten
- Ervaring met adversarial machine learning, waaronder jailbreakdatasets, promptinjectie, RLHF-/DPO-aanvallen of model-extractie, strekt tot aanbeveling
- Ervaring met cybersecurity op het gebied van penetratietesten, exploitontwikkeling of reverse engineering strekt tot aanbeveling
- Ervaring met sociotechnische risico's, waaronder het onderzoeken van intimidatie of desinformatie, misbruikanalyse of het testen van conversationele AI, strekt tot aanbeveling
- Ervaring met creatief onderzoeken vanuit de psychologie, toneelkunst of het schrijven strekt tot aanbeveling
- Je moet als zelfstandig opdrachtnemer kunnen werken
- Kandidaten met H-1B- of STEM-OPT-status worden niet ondersteund
Voordelen
- Volledig werken op afstand
- Flexibele planning met de mogelijkheid om je eigen werktijden vast te stellen
- Wekelijkse betalingen via Stripe of Wise op basis van geleverde diensten
- Projecten kunnen afhankelijk van bedrijfsbehoeften en prestaties worden verlengd, ingekort of voortijdig beëindigd
- Deelname aan projecten met een hogere gevoeligheid is optioneel
- Richtlijnen voor content en hulpmiddelen voor welzijn worden verstrekt
- Redelijke aanpassingen zijn op verzoek beschikbaar
- Een concurrerend uurloon
- Mogelijkheid tot een bonus van maximaal 250 Amerikaanse dollar per geslaagde doorverwijzing, onder voorbehoud van limieten