51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
AI-veiligheidsexpert (Engels en Gujarati) – remotecontract
Voer red-team-evaluaties uit van conversationele AI-modellen en agents voor Mercor, een AI-labpartner die zich richt op het trainen van geavanceerde systemen. Creëer gegevens over kwetsbaarheden, aanvalsscenario’s en reproduceerbare veiligheidsrapporten.
Beschrijving
- Test conversationele AI-modellen en agents met jailbreaks, promptinjecties, misbruikscenario’s, het uitbuiten van vooroordelen en manipulatie over meerdere beurten
- Maak door mensen gelabelde gegevens door fouten te annoteren, kwetsbaarheden te categoriseren en systemische risico’s te identificeren
- Gebruik gevestigde taxonomieën, benchmarks en playbooks om consistente evaluaties te waarborgen
- Ontwikkel reproduceerbare rapporten, datasets en aanvalsscenario’s
- Beoordeel AI-reacties met betrekking tot vooroordelen, desinformatie, schadelijk gedrag en andere gevoelige onderwerpen
- Identificeer zwakke punten die geautomatiseerde tests mogelijk over het hoofd zien
- Vergroot de evaluatiedekking om onverwachte problemen in productie te helpen beperken
- Verbeter AI-systemen van klanten met duidelijke, reproduceerbare evaluatieartefacten
Vereisten
- Moedertaalniveau of vloeiende beheersing van het Engels en Gujarati
- Goed beoordelingsvermogen bij het evalueren van taal en inhoud
- Vermogen om te bepalen of AI-reacties accuraat, volledig en gepast zijn, en om die beoordeling toe te lichten
- Zorgvuldige aandacht voor subtiele fouten, inconsistenties en omissies
- Consistente naleving van richtlijnen en kwaliteitseisen
- Vermogen om redeneringen duidelijk te communiceren aan technische en niet-technische doelgroepen
- Flexibiliteit bij verschillende projecten, taakindelingen en klanten
- Kennis van adversarial machine learning, cybersecurity, sociaal-technische risico’s of creatief testen strekt tot aanbeveling
- Beschikbaarheid om als zelfstandig opdrachtnemer te werken
- Kandidaten met H-1B- of STEM OPT-status worden niet ondersteund
Voordelen
- Volledig op afstand werken
- Je eigen werktijden kiezen
- Wekelijkse betalingen ontvangen via Stripe of Wise
- Competitieve uurvergoeding
- Mogelijkheid om deel te nemen aan projecten met inhoud met een hogere gevoeligheid
- Toegang tot duidelijke richtlijnen en welzijnsvoorzieningen voor werk met gevoelige inhoud
- Redelijke aanpassingen zijn op verzoek beschikbaar
- Verwijsvergoedingen tot 90 Amerikaanse dollar verdienen voor elke succesvolle doorverwijzing