51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
AI-veiligheidsexpert – Engels en Assamees (remotecontract)
Test conversatie-AI-systemen op jailbreaks, vooringenomenheid, promptinjectierisico’s en andere kwetsbaarheden. Maak duidelijke, reproduceerbare artefacten met menselijke data die geavanceerde AI veiliger en betrouwbaarder helpen maken.
Beschrijving
- Test conversatiemodellen en -agenten op jailbreaks, promptinjecties, misbruikscenario’s, uitbuiting van vooringenomenheid en manipulatie over meerdere gesprekken
- Maak annotaties van menselijke data door fouten te documenteren, kwetsbaarheden te categoriseren en systemische risico’s te identificeren
- Gebruik gevestigde taxonomieën, benchmarks en playbooks om consistente evaluaties uit te voeren
- Lever reproduceerbare rapporten, datasets en aanvalsscenario’s aan klanten
- Vind zwakke plekken die geautomatiseerde tests mogelijk over het hoofd zien
- Vergroot de evaluatiedekking om onverwachte problemen in productie te helpen beperken
- Beoordeel AI-uitvoer over gevoelige onderwerpen volgens de verstrekte richtlijnen
Vereisten
- Moedertaalniveau in zowel Engels als Assamees
- Goed beoordelingsvermogen bij het evalueren van taal en inhoud, waaronder de vraag of AI-antwoorden accuraat, volledig en gepast zijn
- Scherp oog voor subtiele fouten, inconsistenties en omissies
- Consistente naleving van richtlijnen en kwaliteitsnormen
- Vermogen om redeneringen duidelijk uit te leggen aan zowel technische als niet-technische doelgroepen
- Flexibiliteit om aan verschillende projecten, taakindelingen en voor klanten te werken
- Status als zelfstandig opdrachtnemer
- Comfortabel kunnen werken met gevoelige onderwerpen zoals vooringenomenheid, desinformatie en schadelijk gedrag; deelname aan projecten met een hogere gevoeligheid is optioneel
- Kandidaten met H-1B- of STEM OPT-status worden niet ondersteund
Voordelen
- Volledig op afstand werken met een flexibel schema dat je zelf bepaalt
- Wekelijkse betalingen via Stripe of Wise
- Mogelijkheid om ervaring op te doen met red teaming van AI op basis van menselijke data
- Praktische bijdrage aan robuustere, veilige en betrouwbare AI-systemen
- Mogelijkheden om samen te werken met toonaangevende onderzoekers
- Redelijke aanpassingen zijn op verzoek beschikbaar
- Verwijzingsbonus van maximaal 90 Amerikaanse dollar voor elke succesvolle verwijzing