51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
AI-veiligheidsexpert (Engels en Kannada) – Remotecontract in de Verenigde Staten
Mercor zoekt een AI-red-teaming-specialist die vloeiend Engels en Kannada spreekt om geavanceerde modellen op kwetsbaarheden te testen. Het werk omvat het opstellen van reproduceerbare aanvalsscenario’s, evaluatiedatasets en risicorapporten voor AI-trainingsprojecten met menselijke data.
Beschrijving
- Test conversatie-AI-modellen en -agenten met jailbreaks, promptinjecties, misbruikscenario’s, het uitbuiten van vooroordelen en meerstapsmanipulatie
- Maak annotaties voor menselijke data door fouten te documenteren, kwetsbaarheden te categoriseren en systemische risico’s te identificeren
- Gebruik gevestigde taxonomieën, benchmarks en playbooks om consistente evaluaties te behouden
- Stel reproduceerbare rapporten, datasets en aanvalsscenario’s voor klanten op
- Beoordeel AI-antwoorden over gevoelige onderwerpen, waaronder vooroordelen, desinformatie en schadelijk gedrag
- Onderzoek AI-systemen op zwakke plekken die geautomatiseerde tests mogelijk over het hoofd zien
- Breid de evaluatiedekking uit om onverwachte problemen in productie te helpen beperken
- Ondersteun de training en verbetering van geavanceerde modellen voor Mercors AI-lab en zakelijke klanten
Vereisten
- Beheersing van zowel Engels als Kannada op moedertaalniveau
- Goed beoordelingsvermogen bij het evalueren of AI-antwoorden accuraat, volledig en passend zijn
- Duidelijke communicatieve vaardigheden om redeneringen uit te leggen aan technische en niet-technische doelgroepen
- Zeer nauwkeurig kunnen letten op subtiele fouten, inconsistenties en omissies
- Consistent kunnen werken met taxonomieën, benchmarks, playbooks, richtlijnen en kwaliteitsnormen
- Flexibiliteit om aan verschillende projecten, taakindelingen en klanten te werken
- In staat zijn om als zelfstandig opdrachtnemer te werken
- Er mag geen H-1B- of STEM-OPT-sponsoring nodig zijn; deze sponsorroutes worden niet ondersteund
- Relevante ervaring met adversarial machine learning, cybersecurity, sociotechnisch risico, het testen van conversatie-AI, psychologie, acteren of onconventioneel adversarial schrijven is een plus
Voordelen
- Werk volledig op afstand en bepaal flexibel je eigen werktijden
- Ontvang wekelijks betalingen via Stripe of Wise voor geleverde diensten
- Kies zelf of je wilt deelnemen aan projecten met inhoud met een hogere gevoeligheid
- Krijg duidelijke begeleiding en welzijnsvoorzieningen voor opdrachten met gevoelige inhoud
- Ontvang een concurrerende vergoeding
- Doe praktische ervaring op met human-data-gedreven AI-red teaming
- Werk samen met toonaangevende onderzoekers
- Vraag indien nodig om redelijke aanpassingen
- Ontvang tot 90 Amerikaanse dollar aan referralbetalingen voor elke succesvolle aanbeveling