51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
Remote AI-veiligheidsexpert (Engels en Odia) – Contract
Mercor zoekt een AI-veiligheidsexpert die vloeiend Engels en Odia spreekt om conversationele AI-modellen te red-teamtesten voor de training van frontier-modellen. Het werk omvat het maken van annotaties van kwetsbaarheden, aanvalsscenario's, datasets en reproduceerbare veiligheidsrapporten.
Beschrijving
- Test conversationele AI-modellen en -agents met jailbreaks, promptinjecties, misbruikscenario's, het uitbuiten van vooroordelen en manipulatie over meerdere gespreksrondes.
- Documenteer fouten, categoriseer kwetsbaarheden en identificeer systemische risico's.
- Gebruik gevestigde taxonomieën, benchmarks en playbooks om evaluaties consistent te houden.
- Maak reproduceerbare veiligheidsrapporten, datasets en aanvalsscenario's.
- Onderzoek modeluitvoer op vooroordelen, desinformatie en schadelijk gedrag.
- Ondersteun de training en verbetering van frontier-AI-systemen voor het AI-lab van Mercor en zakelijke klanten.
Vereisten
- Vloeiende beheersing op moedertaalniveau van Engels en Odia.
- Goed beoordelingsvermogen bij het evalueren van taal en inhoud.
- Vermogen om te bepalen of AI-antwoorden accuraat, volledig en passend zijn, en de redenering uit te leggen.
- Sterke aandacht voor subtiele fouten, inconsistenties en omissies.
- Vermogen om richtlijnen en kwaliteitsnormen betrouwbaar te volgen.
- Vermogen om redeneringen duidelijk te communiceren aan zowel technische als niet-technische doelgroepen.
- Flexibiliteit om aan verschillende projecten, taakformats en voor verschillende klanten te werken.
- Bereidheid om als zelfstandig opdrachtnemer te werken.
- Sollicitanten mogen geen H-1B- of STEM OPT-kandidaten zijn.
- Ervaring met of specialisatie in adversarial machine learning, cybersecurity, sociaal-technisch risico of creatieve probing is gewenst.
Voordelen
- Volledig op afstand werken.
- Flexibele werktijden.
- Optionele deelname aan projecten met een hogere gevoeligheid.
- Richtlijnen en welzijnsbronnen voor projecten met gevoelige inhoud.
- Wekelijkse betalingen via Stripe of Wise.
- Een concurrerende vergoeding.
- Mogelijkheid om samen te werken met toonaangevende onderzoekers.
- Doorverwijzingsvergoedingen tot 90 dollar voor elke succesvolle doorverwijzing.