51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
Remote AI-veiligheidsexpert (Engels en Gujarati) – Contract
Mercor zoekt een AI-veiligheidsexpert op contractbasis die vloeiend Engels en Gujarati spreekt om geavanceerde AI-modellen aan red-teamtests te onderwerpen. Het werk omvat het testen van kwetsbaarheden, het beoordelen van fouten en het maken van reproduceerbare datasets en aanvalsscenario's.
Beschrijving
- Conversationele AI-modellen en -agents testen op jailbreaks, promptinjecties, misbruikscenario's, het uitbuiten van vooroordelen en manipulatie over meerdere gesprekken
- Door mensen gegenereerde data creëren door fouten te annoteren, kwetsbaarheden te categoriseren en systemische risico's te identificeren
- Bestaande taxonomieën, benchmarks en draaiboeken gebruiken om consistente evaluaties uit te voeren
- Reproduceerbare klantrapporten, datasets en aanvalsscenario's ontwikkelen
- AI-uitvoer beoordelen op gevoelige kwesties, waaronder vooroordelen, desinformatie en schadelijk gedrag
- Zwakke plekken vinden die geautomatiseerde tests niet detecteren
- De evaluatiedekking uitbreiden om onverwachte problemen in productie te helpen voorkomen
- Bijdragen aan projecten die geavanceerde AI-systemen trainen en verbeteren
Vereisten
- Engels en Gujarati op moedertaalniveau of vloeiend beheersen
- Goed beoordelingsvermogen bij het evalueren van taal en inhoud op nauwkeurigheid, volledigheid en geschiktheid
- Het vermogen om subtiele fouten, inconsistenties en omissies te herkennen
- Vaste naleving van bestaande richtlijnen en kwaliteitsnormen
- Redeneringen duidelijk kunnen uitleggen aan zowel technische als niet-technische doelgroepen
- Flexibiliteit voor verschillende projecten, taakvormen en klantbehoeften
- Werken als zelfstandig opdrachtnemer
- Kandidaten met H-1B- of STEM OPT-status komen niet in aanmerking
- Pré: ervaring met adversarial machine learning, waaronder jailbreakdatasets, promptinjectie, RLHF-/DPO-aanvallen of model extractie
- Pré: ervaring met cybersecurity, zoals penetratietests, exploitontwikkeling of reverse engineering
- Pré: ervaring met sociaal-technische risico's, waaronder onderzoek naar intimidatie of desinformatie, misbruikanalyse of het testen van conversationele AI
- Pré: ervaring met psychologie, acteren of schrijven die onconventioneel adversarieel denken ondersteunt
Voordelen
- Op afstand werken vanuit de Verenigde Staten
- Een flexibel schema kiezen dat bij je beschikbaarheid past
- Wekelijkse betalingen ontvangen via Stripe of Wise
- Wel of niet deelnemen aan projecten met een hogere gevoeligheid
- Toegang krijgen tot duidelijke richtlijnen en welzijnsbronnen voor opdrachten met gevoelige inhoud
- Een concurrerende uurvergoeding
- Redelijke aanpassingen zijn op verzoek beschikbaar
- De mogelijkheid om tot 90 Amerikaanse dollar per succesvolle doorverwijzing te verdienen, onder voorbehoud van toepasselijke limieten