51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
AI-veiligheidsexpert – Engels en Bengaals (remotecontract)
Mercor zoekt een Engelstalige en Bengaals sprekende AI-safety-red-teamer om kwetsbaarheden in conversatie-AI-systemen te identificeren. De functie omvat het opstellen van reproduceerbare aanvalsscenario’s en door mensen gegenereerde data voor AI-labs die frontiermodellen trainen.
Beschrijving
- Test conversatie-AI-modellen en -agenten met jailbreaks, promptinjectie, misbruikscenario’s, het uitbuiten van vooroordelen en meerturnmanipulatie
- Maak door mensen gegenereerde data door fouten te annoteren, kwetsbaarheden te categoriseren en systemische risico’s te identificeren
- Gebruik gevestigde taxonomieën, benchmarks en playbooks om evaluaties consistent te houden
- Lever reproduceerbare rapporten, datasets en aanvalsscenario’s aan klanten
- Beoordeel AI-antwoorden over vooroordelen, desinformatie, schadelijk gedrag en andere gevoelige onderwerpen
- Breid de evaluatiedekking uit en draag bij aan sterkere AI-systemen voor klanten
Vereisten
- Moedertaalniveau of vloeiende beheersing van zowel Engels als Bengaals
- Goed beoordelingsvermogen bij het evalueren van taal en inhoud, inclusief het vermogen om te bepalen of AI-antwoorden accuraat, volledig en gepast zijn en de beoordeling toe te lichten
- Sterke aandacht voor subtiele fouten, inconsistenties en weglatingen
- Betrouwbare naleving van testrichtlijnen en kwaliteitsnormen
- Duidelijke communicatie van redeneringen aan zowel technische als niet-technische doelgroepen
- Bereidheid om je aan te passen aan verschillende projecten, taakindelingen en klanten
- Vermogen om als zelfstandig opdrachtnemer te werken
- Mag geen H-1B- of STEM OPT-sponsoring nodig hebben
- Pré: ervaring met adversarial machine learning, waaronder jailbreakdatasets, promptinjectie, RLHF-/DPO-aanvallen of model extraction
- Pré: ervaring met cybersecurity op het gebied van penetratietests, exploitontwikkeling of reverse engineering
- Pré: ervaring met sociotechnische risico’s, zoals het onderzoeken van intimidatie of desinformatie, misbruikanalyses of het testen van conversatie-AI
- Pré: ervaring met psychologie, acteren of schrijven die onconventioneel adversarieel denken ondersteunt
Voordelen
- Werk volledig op afstand
- Stel een flexibel schema op en werk volgens je eigen beschikbaarheid
- Ontvang wekelijkse betalingen via Stripe of Wise
- Kies zelf of je wilt deelnemen aan projecten met een hogere gevoeligheid
- Krijg duidelijke begeleiding en toegang tot welzijnsvoorzieningen voor opdrachten met gevoelige inhoud
- Ontvang een concurrerende vergoeding
- Doe ervaring op met AI-red-teaming op basis van menselijke data
- Werk samen met toonaangevende AI-onderzoekers
- Ontvang tot 90 Amerikaanse dollar aan referralbetalingen voor elke succesvolle doorverwijzing