51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
Remote AI-veiligheidsexpert – Engels en Gujarati
Voer adversarial tests uit op AI-modellen en agents van partners om kwetsbaarheden, vooroordelen en schadelijk gedrag te identificeren. Maak geannoteerde datasets, aanvalsscenario's en reproduceerbare rapporten die de evaluatie van geavanceerde AI-systemen verbeteren.
Beschrijving
- Test conversationele AI-modellen en agents met jailbreaks, promptinjecties, misbruikscenario's, het uitbuiten van vooroordelen en manipulatie over meerdere gespreksrondes
- Maak door mensen gegenereerde data door fouten te annoteren, kwetsbaarheden te categoriseren en systeemrisico's te identificeren
- Pas gevestigde taxonomieën, benchmarks en playbooks toe om consistente evaluaties te waarborgen
- Ontwikkel reproduceerbare rapporten, datasets en aanvalsscenario's voor klanten
- Evalueer AI-antwoorden over vooroordelen, desinformatie, schadelijk gedrag en andere gevoelige onderwerpen
- Vind zwakke plekken die geautomatiseerde tests niet detecteren
- Breid de evaluatiedekking uit om onverwachte problemen in productie te helpen verminderen
- Verbeter AI-systemen van klanten met gestructureerde adversarial tests
Vereisten
- Moedertaalniveau in Engels en Gujarati is vereist
- Aantoonbaar beoordelingsvermogen bij het evalueren van taal en inhoud, waaronder of AI-antwoorden accuraat, volledig en geschikt zijn, met het vermogen om die beoordeling toe te lichten
- Sterk oog voor subtiele fouten, inconsistenties en omissies
- Vermogen om richtlijnen en kwaliteitsnormen consequent toe te passen
- Vermogen om redeneringen duidelijk te communiceren aan zowel technische als niet-technische doelgroepen
- Flexibiliteit om aan verschillende projecten, taaktypen en voor verschillende klanten te werken
- De samenwerking is vormgegeven als een overeenkomst met een onafhankelijke opdrachtnemer
- Kandidaten mogen geen H-1B- of STEM-OPT-kandidaat zijn
- Achtergronden in onder meer adversarial machine learning, cybersecurity, sociaalechnisch risico of creatief sonderen hebben de voorkeur
Voordelen
- Werk volledig op afstand volgens een schema dat je zelf bepaalt
- Ontvang wekelijks betalingen via Stripe of Wise voor geleverde diensten
- Kies zelf of je wilt deelnemen aan projecten met een hogere gevoeligheid
- Krijg duidelijke richtlijnen en welzijnsvoorzieningen voor projecten met gevoelige inhoud
- Competitieve vergoeding
- Werk samen met toonaangevende onderzoekers
- Ontvang verwijzingsvergoedingen tot 90 Amerikaanse dollar per succesvolle verwijzing, onder voorbehoud van toepasselijke beperkingen