51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
AI-sikkerhetsekspert, engelsk og nederlandsk (fjernoppdrag)
Mercor søker AI-sikkerhetseksperter som snakker engelsk og nederlandsk, for å red-teame samtalemodeller og agenter. Arbeidet innebærer å lage sårbarhetsdata, angrepsscenarioer og reproduserbare sikkerhetsrapporter for utvikling av banebrytende AI.
Beskrivelse
- Test samtalebaserte AI-modeller og agenter ved hjelp av jailbreaks, promptinjeksjon, misbruksscenarioer, utnyttelse av skjevheter og manipulasjon over flere samtalerunder
- Lag menneskegenererte data ved å annotere feil, klassifisere sårbarheter og identifisere systemiske risikoer
- Bruk taksonomier, benchmarker og spillbøker for å støtte konsistent sikkerhetstesting
- Utvikle reproduserbare rapporter, datasett og angrepstilfeller for kunder
- Finn sårbarheter som automatiserte tester kan overse
- Utvide evalueringsdekningen for å bidra til å redusere uventede risikoer i produksjon
- Samarbeid med ledende forskere om å trene og forbedre banebrytende AI-systemer
Krav
- Flytende engelsk og nederlandsk på morsmålsnivå
- Tidligere erfaring med AI-red teaming, offensivt cybersikkerhetsarbeid eller sosioteknisk sondering
- Evne til å teste AI-systemer offensivt og drive dem mot feiltilstander
- Erfaring med å bruke rammeverk eller benchmarker til strukturert testing
- Evne til å kommunisere risikoer tydelig til tekniske og ikke-tekniske målgrupper
- Evne til å tilpasse seg ulike prosjekter og kunder
- Erfaring med adversarial maskinlæring, inkludert jailbreak-datasett, promptinjeksjon, RLHF-/DPO-angrep eller modellekstraksjon er en fordel
- Cybersikkerhetserfaring innen penetrasjonstesting, exploitutvikling eller reverse engineering er en fordel
- Erfaring med sosioteknisk risiko, inkludert sondering av trakassering eller desinformasjon, misbruksanalyse eller testing av samtalebasert AI er en fordel
- Erfaring med kreativ sondering innen psykologi, skuespill eller skriving er en fordel
- Du må kunne arbeide som uavhengig oppdragstaker
- H-1B- og STEM OPT-kandidater støttes ikke
Fordeler
- Fullt fjernarbeid
- Fleksibel arbeidstid med mulighet til å bestemme dine egne arbeidstimer
- Ukentlige utbetalinger via Stripe eller Wise basert på leverte tjenester
- Prosjekter kan forlenges, forkortes eller avsluttes tidlig avhengig av virksomhetens behov og prestasjoner
- Deltakelse i prosjekter med høyere sensitivitet er valgfritt
- Retningslinjer for innhold og ressurser for velvære tilbys
- Rimelige tilpasninger er tilgjengelige på forespørsel
- Konkurransedyktig timelønn
- Mulighet for opptil 250 USD per vellykket anbefaling, med forbehold om begrensninger