51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.
Expert in AI-veiligheidsred-teaming – Engels en Tamil, contract op afstand
Test gesprekgerichte AI-modellen en agents op kwetsbaarheden via adversarial probing en gestructureerde red-teamanalyses. Maak aanvalsscenario's, kwetsbaarheidsgegevens en reproduceerbare rapporten voor de AI-labklanten van Mercor.
Beschrijving
- Onderzoek gesprekgerichte AI-modellen en agents met jailbreaks, promptinjecties, misbruikscenario's, het uitbuiten van vooroordelen en meerturnmanipulatie
- Maak door mensen gelabelde gegevens door fouten te documenteren, kwetsbaarheden te categoriseren en systeemrisico's te identificeren
- Gebruik gevestigde taxonomieën, benchmarks en playbooks voor consistente evaluaties
- Ontwikkel reproduceerbare rapporten, datasets en aanvalsscenario's voor klanten
- Beoordeel AI-uitvoer met betrekking tot vooroordelen, desinformatie, schadelijk gedrag en andere gevoelige onderwerpen
- Identificeer zwakke plekken die geautomatiseerde tests mogelijk over het hoofd zien
- Breid de evaluatiedekking uit en help onverwachte productieproblemen voorkomen
- Verbeter de AI-systemen van klanten en draag bij aan veiligere, betrouwbaardere modellen
Vereisten
- Vloeiendheid op moedertaalniveau in zowel Engels als Tamil
- Goed beoordelingsvermogen bij het evalueren van taal en inhoud
- Vermogen om te bepalen of AI-antwoorden accuraat, volledig en passend zijn, en om die beoordeling toe te lichten
- Zorgvuldige aandacht voor subtiele fouten, inconsistenties en omissies
- Vermogen om richtlijnen en kwaliteitsnormen consequent toe te passen
- Heldere communicatie van redeneringen aan technische en niet-technische doelgroepen
- Flexibiliteit tussen projecten, taakindelingen en klanten
- Pré: ervaring met adversarial machine learning, zoals jailbreakdatasets, promptinjectie-, RLHF- of DPO-aanvallen of model extraction
- Pré: achtergrond in cybersecurity, zoals penetratietesten, exploitontwikkeling of reverse engineering
- Pré: ervaring met sociaal-technische risico's, zoals onderzoek naar intimidatie en desinformatie, misbruikanalyses of het testen van gesprekgerichte AI
- Pré: creatieve probingervaring in psychologie, acteren of schrijven
- Je moet als zelfstandig opdrachtnemer werken
- Kandidaten met H-1B en STEM OPT worden niet ondersteund
Voordelen
- Volledig op afstand werken
- Flexibele planning met de mogelijkheid om je eigen uren vast te stellen
- Wekelijkse betalingen via Stripe of Wise
- Competitieve uurvergoeding
- Mogelijkheid om ervaring op te doen met human-data-gedreven AI-red-teaming gericht op frontierveiligheid
- Directe bijdrage aan robuustere, veilige en betrouwbare AI-systemen
- Optionele deelname aan projecten met een hogere gevoeligheid
- Richtlijnen en welzijnsbronnen voor projecten met gevoelige inhoud
- Redelijke aanpassingen beschikbaar op verzoek
- Referralprogramma met maximaal 90 USD per succesvolle doorverwijzing, onder voorbehoud van doorverwijzingslimieten