51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
AI-veiligheidsexpert – Engels en Punjabi
Remote contractfunctie voor AI-veiligheidsexperts die vloeiend Engels en Punjabi spreken en Mercors red-teamingprojecten voor conversationele AI ondersteunen. Test jailbreaks, promptinjecties, risico’s op schadelijke inhoud en kwetsbaarheden in modellen, en documenteer reproduceerbare bevindingen.
Beschrijving
- Voer adversarial tests uit op conversationele AI-modellen en -agents met jailbreaks, promptinjecties, misbruikscenario’s, het uitbuiten van vooroordelen en meerstapsmanipulatie
- Maak door mensen gegenereerde gegevens door fouten te annoteren, kwetsbaarheden te categoriseren en systemische risico’s te identificeren
- Pas gevestigde taxonomieën, benchmarks en playbooks toe om consistente evaluaties te waarborgen
- Stel reproduceerbare rapporten, datasets en aanvalsscenario’s op voor klanten
- Beoordeel AI-uitvoer op vooroordelen, desinformatie, schadelijk gedrag en andere risico’s rond gevoelige inhoud
- Identificeer zwakke plekken die geautomatiseerde evaluaties mogelijk over het hoofd zien
- Vergroot de evaluatiedekking om onverwachte problemen in productie te helpen beperken
- Verbeter de AI-systemen van klanten met gestructureerde adversarial tests
Vereisten
- Moedertaalniveau in zowel Engels als Punjabi
- Goed beoordelingsvermogen bij het evalueren van taal en inhoud
- Vermogen om te bepalen of AI-antwoorden accuraat, volledig en passend zijn, en de beoordeling toe te lichten
- Sterke aandacht voor subtiele fouten, inconsistenties en omissies
- Consistente naleving van richtlijnen en kwaliteitsnormen
- Duidelijke communicatie van redeneringen aan technische en niet-technische doelgroepen
- Vermogen om te schakelen tussen projecten, taakformaten en klanten
- Status als onafhankelijke opdrachtnemer
- U mag geen H-1B- of STEM-OPT-kandidaat zijn
- Pré: ervaring met adversarial machine learning, waaronder jailbreakdatasets, promptinjectie-, RLHF/DPO-aanvallen of model extraction
- Pré: ervaring met cybersecurity, zoals penetratietests, exploitontwikkeling of reverse-engineering
- Pré: ervaring met sociaal-technische risico’s, waaronder onderzoek naar intimidatie of desinformatie, misbruikanalyse of het testen van conversationele AI
- Pré: ervaring met psychologie, acteren of schrijven die onconventioneel adversarial denken ondersteunt
Voordelen
- Volledig remote werken
- Flexibele planning met de mogelijkheid om volgens uw eigen schema te werken
- Wekelijkse betalingen via Stripe of Wise
- Projecten kunnen afhankelijk van zakelijke behoeften en prestaties worden verlengd, verkort of vroegtijdig beëindigd
- Optionele deelname aan projecten met een hogere gevoeligheid
- Richtlijnen voor inhoud en welzijnsbronnen worden verstrekt
- Concurrerende vergoeding
- Redelijke aanpassingen zijn op verzoek beschikbaar
- Vergoedingen tot 90 Amerikaanse dollar per geslaagde doorverwijzing, onder voorbehoud van doorverwijzingslimieten