51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
AI-veiligheidsexpert – Engels en Telugu (remotecontract)
Voer red-team-evaluaties uit van conversationele AI-modellen en -agents voor Mercor en identificeer kwetsbaarheden door middel van adversarieel testen. Maak hoogwaardige datasets, aanvalsscenario’s en duidelijke rapporten met focus op prestaties in het Engels en Telugu.
Beschrijving
- Conversationele AI-modellen en -agents testen op jailbreaks, promptinjectie, misbruikscenario’s, uitbuiting van vooroordelen en manipulatie over meerdere gespreksrondes
- Door mensen gegenereerde data maken door fouten te labelen, kwetsbaarheden te categoriseren en systemische risico’s te identificeren
- Bestaande taxonomieën, benchmarks en playbooks gebruiken om consistente evaluaties te waarborgen
- Reproduceerbare rapporten, datasets en adversariële aanvalsscenario’s ontwikkelen
- AI-reacties beoordelen met betrekking tot vooroordelen, desinformatie, schadelijk gedrag en andere gevoelige onderwerpen
- Zwakke plekken identificeren die geautomatiseerde evaluatiemethoden mogelijk over het hoofd zien
- De evaluatiedekking uitbreiden om onverwachte problemen in productie te helpen voorkomen
- AI-systemen van klanten verbeteren door middel van gestructureerd adversarieel testen
Vereisten
- Beheersing van zowel Engels als Telugu op moedertaalniveau
- Goed beoordelingsvermogen bij het evalueren van taal en inhoud
- Vermogen om te bepalen of AI-reacties accuraat, volledig en passend zijn, en de redenering daarachter uit te leggen
- Uitzonderlijke aandacht voor subtiele fouten, inconsistenties en omissies
- Richtlijnen en kwaliteitsnormen consequent naleven
- Vermogen om redeneringen duidelijk te communiceren aan technische en niet-technische doelgroepen
- Flexibel kunnen werken aan verschillende projecten, taakindelingen en voor verschillende klanten
- Vermogen om als zelfstandig opdrachtnemer te werken
- Mag geen H-1B- of STEM-OPT-sponsoring nodig hebben
- Ervaring met adversarial machine learning, cybersecurity, sociotechnisch risico of creatief testen strekt tot aanbeveling
Voordelen
- Volledig op afstand werken
- Een flexibel schema kiezen dat aansluit bij je beschikbaarheid
- Wekelijkse betalingen ontvangen via Stripe of Wise
- De projectduur kan op basis van zakelijke behoeften en prestaties wijzigen of voortijdig eindigen
- Toegang krijgen tot welzijnsvoorzieningen en duidelijke richtlijnen voor opdrachten met een hogere gevoeligheid
- Ervaring opdoen met AI-red-teaming op basis van door mensen gegenereerde data
- Helpen AI-systemen robuuster, veiliger en betrouwbaarder te maken
- Een concurrerende vergoeding ontvangen
- Samenwerken met vooraanstaande onderzoekers
- Redelijke aanpassingen zijn op verzoek beschikbaar