51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
AI-veiligheidsexpert (Engels en Tamil) – contract op afstand
Mercor zoekt een Engelstalige en Tamilsprekende AI-veiligheidsexpert om conversationele modellen en agents aan red-teamtests te onderwerpen. De contractfunctie richt zich op het identificeren van kwetsbaarheden, het genereren van evaluatiedata en het opstellen van reproduceerbare veiligheidsrapporten.
Beschrijving
- Voer adversariële tests uit op conversationele AI-modellen en agents met jailbreaks, promptinjecties, misbruikscenario's, het uitbuiten van vooroordelen en manipulatie over meerdere gesprekken heen.
- Maak door mensen gegenereerde data door fouten te annoteren, kwetsbaarheden te categoriseren en systemische risico's te identificeren.
- Gebruik gevestigde taxonomieën, benchmarks en playbooks om consistente evaluaties te waarborgen.
- Lever reproduceerbare rapporten, datasets en aanvalsscenario's aan klanten.
- Beoordeel AI-uitvoer over gevoelige onderwerpen, waaronder vooroordelen, desinformatie en schadelijk gedrag.
- Identificeer zwakke plekken die geautomatiseerde evaluatiemethoden mogelijk over het hoofd zien.
- Vergroot de evaluatiedekking om onverwachte problemen in productie te helpen minimaliseren.
- Verbeter de AI-systemen van klanten door middel van gestructureerde adversariële tests.
Vereisten
- Moedertaalniveau of vloeiende beheersing van het Engels en Tamil.
- Goed beoordelingsvermogen bij het evalueren van taal en inhoud.
- Vermogen om te bepalen of AI-antwoorden nauwkeurig, volledig en gepast zijn, en de redenering uit te leggen.
- Sterke aandacht voor subtiele fouten, inconsistenties en omissies.
- Consistente naleving van richtlijnen en kwaliteitsnormen.
- Vermogen om redeneringen duidelijk te communiceren aan zowel technische als niet-technische doelgroepen.
- Aanpassingsvermogen aan verschillende projecten, taakvormen en klanten.
- Vermogen om als zelfstandig contractant te werken.
- Kandidaten met H1-B of STEM OPT worden niet ondersteund.
- Pré: ervaring met adversarial machine learning, zoals jailbreakdatasets, promptinjectie-, RLHF- of DPO-aanvallen, of model extraction.
- Pré: ervaring met cybersecurity op het gebied van penetratietesten, exploitontwikkeling of reverse engineering.
- Pré: ervaring met sociaal-technische risico's, waaronder het onderzoeken van intimidatie of desinformatie, misbruikanalyse of het testen van conversationele AI.
- Pré: ervaring met creatief sonderen in psychologie, acteren of schrijven.
Voordelen
- Volledig op afstand werken.
- Flexibele planning met de mogelijkheid om je eigen uren vast te stellen.
- Wekelijkse betalingen via Stripe of Wise.
- Optionele deelname aan projecten met een hogere gevoeligheid.
- Duidelijke begeleiding en welzijnsvoorzieningen voor werk met gevoelige inhoud.
- Concurrerende uurvergoeding.
- Mogelijkheid om samen te werken met vooraanstaande onderzoekers.
- Doorverwijsvergoedingen tot 90 dollar per succesvolle doorverwijzing, onder voorbehoud van toepasselijke beperkingen.
- Redelijke aanpassingen zijn op verzoek beschikbaar.