51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
AI-veiligheidsexpert (Engels en Telugu) – Contract op afstand
Voer red-teamevaluaties uit van conversationele AI-modellen en -agenten voor Mercor, met de nadruk op taalveiligheid in het Engels en Telugu. Maak gegevens over kwetsbaarheden, aanvalsscenario's en reproduceerbare rapporten om de ontwikkeling van veiligere AI te ondersteunen.
Beschrijving
- Test conversationele AI-modellen en -agenten met jailbreaks, promptinjecties, misbruikscenario's, uitbuiting van vooroordelen en meerstapsmanipulatie
- Documenteer fouten, categoriseer kwetsbaarheden en identificeer systemische risico's
- Gebruik taxonomieën, benchmarks en playbooks om consistente evaluaties uit te voeren
- Maak reproduceerbare rapporten, datasets en aanvalsscenario's voor klanten
- Beoordeel AI-uitvoer met betrekking tot vooroordelen, desinformatie, schadelijk gedrag en andere gevoelige onderwerpen
- Draag bij aan projecten die AI-systemen trainen en verbeteren
- Identificeer kwetsbaarheden die geautomatiseerde tests niet detecteren
- Breid de evaluatiedekking uit om onverwachte problemen in productie te helpen verminderen
Vereisten
- Moedertaalniveau of vloeiende beheersing van Engels en Telugu
- Goed beoordelingsvermogen bij het evalueren of AI-antwoorden accuraat, volledig en passend zijn
- Vermogen om redeneringen duidelijk te communiceren aan zowel technische als niet-technische doelgroepen
- Nauwgezette aandacht voor subtiele fouten, inconsistenties en omissies
- Consistente naleving van richtlijnen en kwaliteitsnormen
- Flexibiliteit bij verschillende projecten, taakindelingen en klanten
- Bereidheid om als zelfstandig opdrachtnemer te werken
- Je mag geen H-1B- of STEM-OPT-kandidaat zijn; relevante specialisaties kunnen onder meer adversarial machine learning, jailbreakdatasets, promptinjectie, RLHF-/DPO-aanvallen, model extractie, penetratietesten, exploitontwikkeling, reverse engineering, het testen op intimidatie of desinformatie, misbruikanalyse, het testen van conversationele AI, psychologie, acteren of schrijven omvatten.
- Voordelen
Voordelen
- Werk volledig op afstand volgens een door jou gekozen planning
- Ontvang wekelijkse betalingen via Stripe of Wise voor geleverde diensten
- Doe ervaring op met mensgerichte AI-red teaming gericht op de veiligheid van geavanceerde AI-systemen
- Help AI-systemen robuuster, veiliger en betrouwbaarder te maken
- Kies zelf of je wilt deelnemen aan projecten met een hogere gevoeligheid
- Krijg duidelijke begeleiding en welzijnsvoorzieningen voor projecten met een hogere gevoeligheid
- Vraag redelijke aanpassingen aan
- Verdien tot 90 Amerikaanse dollar per succesvolle doorverwijzing, zonder genoemde limiet op het aantal doorverwijzingen