51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
Expert AI-veiligheid – Engels en Assamees | Mercor-contract op afstand
Voer adversarial tests uit op geavanceerde AI-modellen om jailbreaks, vooringenomenheid, misbruik en andere veiligheidsrisico's op te sporen. Maak annotaties van menselijke data, classificaties van kwetsbaarheden en reproduceerbaar bewijs van aanvallen voor klanten van Mercor.
Beschrijving
- Voer adversarial tests uit op conversationele AI-modellen en agents om jailbreaks, promptinjectie, misbruik, uitbuiting van vooringenomenheid en meerturnmanipulatie op te sporen
- Maak annotaties van menselijke data, classificeer fouten en identificeer systemische risico's
- Gebruik gevestigde taxonomieën, benchmarks en playbooks om evaluaties te standaardiseren
- Lever reproduceerbare rapporten, datasets en aanvalsscenario's aan klanten
- Beoordeel AI-reacties over vooringenomenheid, desinformatie, schadelijk gedrag en andere gevoelige onderwerpen
- Vind zwakke plekken die geautomatiseerde tests niet detecteren
- Breid de evaluatiedekking uit om onverwachte problemen in productie te helpen voorkomen
- Verbeter AI-systemen van klanten door gestructureerde adversarial tests
Vereisten
- Native beheersing van het Engels en Assamees
- Goed beoordelingsvermogen bij het evalueren van taal en inhoud op nauwkeurigheid, volledigheid en geschiktheid
- Vermogen om subtiele fouten, inconsistenties en omissies te detecteren
- Consistente naleving van richtlijnen en kwaliteitsnormen
- Duidelijke communicatie van redeneringen aan zowel technische als niet-technische doelgroepen
- Flexibiliteit voor verschillende projecten, taakformaten en klantbehoeften
- Pré: ervaring met adversarial machine learning, waaronder jailbreakdatasets, promptinjectie-, RLHF- of DPO-aanvallen of model extractie
- Pré: ervaring in cybersecurity met penetratietests, exploitontwikkeling of reverse engineering
- Pré: ervaring met sociotechnische risico's, waaronder onderzoek naar intimidatie of desinformatie, misbruikanalyse of het testen van conversationele AI
- Pré: ervaring in psychologie, acteren of schrijven die onconventioneel adversarial denken ondersteunt
- Je moet als zelfstandig opdrachtnemer werken
- Kandidaten met H-1B en STEM OPT worden niet ondersteund
Voordelen
- Volledig op afstand werken
- Je eigen werktijden kiezen
- Wekelijkse betalingen ontvangen via Stripe of Wise
- Praktische ervaring opdoen met human-data-driven AI-red teaming
- Helpen om AI-systemen robuuster, veiliger en betrouwbaarder te maken
- Samenwerken met toonaangevende onderzoekers
- Redelijke aanpassingen zijn op verzoek beschikbaar
- Verwijsvergoedingen tot 90 USD ontvangen voor succesvolle verwijzingen