51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
Expert in AI-veiligheidsred-teaming (Engels en Telugu) – Contract op afstand
Test conversatie-AI-modellen op jailbreaks, promptinjectie, misbruik, vooringenomenheid en andere veiligheidsproblemen. Documenteer reproduceerbare kwetsbaarheden en evaluatiegegevens voor klanten in AI-onderzoek.
Beschrijving
- Test conversatie-AI-modellen en -agents op adversariële wijze op jailbreaks, promptinjectie, misbruik, uitbuiting van vooringenomenheid en manipulatie over meerdere gespreksrondes
- Annoteer testfouten, categoriseer kwetsbaarheden en identificeer systemische risico's
- Pas gevestigde taxonomieën, benchmarks en playbooks toe om consistente evaluaties te waarborgen
- Maak reproduceerbare rapporten, datasets en aanvalsscenario's voor klanten
- Beoordeel AI-antwoorden over gevoelige onderwerpen, waaronder vooringenomenheid, desinformatie en schadelijk gedrag
- Vind zwakke plekken die geautomatiseerde evaluatiemethoden niet detecteren
- Breid de evaluatiedekking uit om onverwachte problemen in productie te helpen voorkomen
- Verbeter AI-systemen van klanten door herhaalbare adversariële tests
Vereisten
- Moedertaalvaardigheid in zowel Engels als Telugu
- Goed beoordelingsvermogen bij het evalueren van taal en inhoud op nauwkeurigheid, volledigheid en gepastheid
- Vermogen om redeneringen duidelijk te communiceren aan technische en niet-technische doelgroepen
- Zorgvuldige aandacht voor subtiele fouten, inconsistenties en omissies
- Vermogen om richtlijnen en kwaliteitsnormen consequent te volgen
- Flexibiliteit voor verschillende projecten, taakindelingen en klanten
- Werkzaam zijn als zelfstandig opdrachtnemer
- Vermogen om te werken zonder vertrouwelijke of bedrijfseigen informatie van een werkgever, klant of instelling te gebruiken
- Kandidaten met een H-1B- of STEM OPT-status worden niet ondersteund
Voordelen
- Volledig op afstand uit te voeren werk met een zelf in te delen werkschema
- Wekelijkse betalingen via Stripe of Wise voor geleverde diensten
- Optionele deelname aan projecten met gevoeligere onderwerpen
- Richtlijnen en welzijnsmiddelen voor werk met gevoelige inhoud
- Ervaring met het opbouwen van expertise in AI-red-teaming op basis van menselijke data
- Mogelijkheid om AI-systemen veiliger, robuuster en betrouwbaarder te maken
- Mogelijkheden om samen te werken met vooraanstaande onderzoekers
- Doorverwijzingsvergoedingen tot 90 dollar per geslaagde doorverwijzing, onder voorbehoud van toepasselijke limieten