51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
AI-veiligheidsexpert – Engels en Fins (op afstand)
Mercor zoekt Engelstalige en Finssprekende experts op het gebied van AI-veiligheid om conversatie-AI-modellen en agents aan red-teamtests te onderwerpen. Het werk omvat het produceren van reproduceerbare gegevens over kwetsbaarheden en aanvalsscenario's voor trainingsprojecten met geavanceerde AI-systemen.
Beschrijving
- Voer adversariële tests uit op conversatie-AI-modellen en agents met jailbreaks, promptinjectie, misbruikscenario's, het uitbuiten van vooringenomenheid en meerturnmanipulatie
- Documenteer fouten, categoriseer kwetsbaarheden en identificeer systeemrisico's
- Pas gevestigde taxonomieën, benchmarks en playbooks toe om consistente evaluaties te waarborgen
- Maak reproduceerbare rapporten, datasets en aanvalsscenario's
- Onderzoek modeluitvoer met betrekking tot vooringenomenheid, desinformatie en schadelijk gedrag
- Vergroot de evaluatiedekking om kwetsbaarheden te identificeren die geautomatiseerde tests mogelijk over het hoofd zien
- Werk samen met projectteams die de training en verbetering van geavanceerde AI-systemen ondersteunen
Vereisten
- Vloeiende of moedertaalbeheersing van Engels en Fins
- Eerdere red-teamervaring met adversarieel AI-testen, cybersecurity of sociotechnisch onderzoek
- Aantoonbare vaardigheid in het adversarieel testen van AI-systemen
- Vermogen om met frameworks, taxonomieën, benchmarks en playbooks te werken
- Vermogen om risico's duidelijk te communiceren aan technische en niet-technische doelgroepen
- Aanpassingsvermogen aan verschillende projecten en klanten
- Je moet als zelfstandig opdrachtnemer werken
- Je moet kunnen werken zonder vertrouwelijke of bedrijfseigen informatie van een andere werkgever, klant of instelling
- Kandidaten met H-1B- of STEM-OPT-status worden niet ondersteund
Voordelen
- Volledig remote contractuele functie
- Flexibel werkschema met controle over de werktijden
- Mogelijkheid om deel te nemen aan projecten met hogere gevoeligheid
- Duidelijke richtlijnen en hulpmiddelen voor welzijn
- Wekelijkse betalingen via Stripe of Wise
- Concurrerende vergoeding
- Mogelijkheid om kandidaten aan te brengen, met maximaal 250 US-dollar per succesvolle verwijzing
- Redelijke aanpassingen zijn op verzoek beschikbaar