Mercor
Mercor
51 – 200 Medewerkers
Het beschikbare profiel van Mercor bevat onvoldoende geverifieerde informatie over zijn producten, diensten, klanten, sector of focus op werving om een nauwkeurig bedrijfsoverzicht te kunnen geven. Er is meer bronmateriaal nodig voordat het bedrijf of zijn mogelijkheden kan worden beschreven.

Expert in AI-veiligheidsred teaming (Engels en Punjabi)

Mercor zoekt een AI-veiligheidsexpert die Engels en Punjabi spreekt om conversationele modellen en agents aan red-teamtests te onderwerpen. In deze contractrol ontdek je kwetsbaarheden, maak je aanvalsscenario’s en stel je reproduceerbare veiligheidsrapporten op voor klanten in AI-onderzoek.

Beschrijving

  • Conversationele AI-modellen en agents testen met jailbreaks, promptinjecties, misbruikscenario’s, uitbuiting van vooroordelen en manipulatie over meerdere beurten
  • Modeluitvoer over gevoelige onderwerpen beoordelen, waaronder vooroordelen, desinformatie en schadelijk gedrag
  • Fouten documenteren, kwetsbaarheden categoriseren en systemische risico’s identificeren
  • Bestaande taxonomieën, benchmarks en playbooks gebruiken voor consistente evaluaties
  • Reproduceerbare rapporten, datasets en aanvalsscenario’s voor klanten maken
  • AI-systemen onderzoeken op zwakke plekken die geautomatiseerde tests mogelijk missen
  • De evaluatiedekking uitbreiden om onverwachte problemen in productie te helpen beperken
  • AI-systemen van klanten verbeteren door mensgestuurde, datagedreven red-teamtests

Vereisten

  • Moedertaalniveau of vloeiende beheersing van het Engels en Punjabi
  • Sterk beoordelingsvermogen bij het evalueren van taal en inhoud
  • In staat zijn te bepalen of AI-antwoorden accuraat, volledig en passend zijn, en de beoordeling kunnen toelichten
  • Nauwgezette aandacht voor subtiele fouten, inconsistenties en omissies
  • Consistente naleving van test richtlijnen en kwaliteitsnormen
  • Het redeneerproces duidelijk kunnen communiceren aan zowel technische als niet-technische doelgroepen
  • Flexibel kunnen werken aan verschillende projecten, taakindelingen en voor uiteenlopende klanten
  • Beschikbaar zijn om als onafhankelijke contractant te werken
  • Geen ondersteuning voor H-1B of STEM OPT nodig hebben
  • Ervaring met onder meer adversarial machine learning, jailbreakdatasets, promptinjectie, RLHF-/DPO-aanvallen, modelext­ractie, penetratietesten, exploitontwikkeling, reverse engineering, onderzoek naar intimidatie of desinformatie, misbruikanalyse, testen van conversationele AI, psychologie, acteren of schrijven strekt tot aanbeveling

Voordelen

  • Op afstand werken vanaf elke locatie die voor de rol is toegestaan
  • Je eigen werkschema bepalen
  • Wekelijkse betalingen via Stripe of Wise ontvangen voor geleverde diensten
  • Projecten kunnen op basis van bedrijfsbehoeften en prestaties worden verlengd, verkort of voortijdig beëindigd
  • Toegang krijgen tot welzijnsvoorzieningen en duidelijke richtlijnen voor projecten met een hogere gevoeligheid
  • Ervaring opdoen met menselijk datagedreven red teaming van AI
  • Helpen AI-systemen robuuster, veiliger en betrouwbaarder te maken
  • Concurrerende vergoeding
  • Samenwerken met vooraanstaande AI-onderzoekers

Gerelateerde vacatures