51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
Ekspert på AI-sikkerhet og red teaming – engelsk og finsk, fjernarbeid i USA
Gjennomfør adversarial testing av samtalebaserte AI-modeller og agenter for Mercors AI-prosjekter med menneskedata. Lag reproduserbare sårbarhetsdata som kan bidra til å styrke avanserte AI-systemer.
Beskrivelse
- Test samtalebaserte AI-modeller og agenter ved hjelp av jailbreaks, promptinjektører, misbruksscenarioer, utnyttelse av skjevheter og manipulasjon over flere samtalerunder
- Dokumenter feil, kategoriser sårbarheter og identifiser systemiske risikoer
- Bruk etablerte taksonomier, referansetester og playbooks for konsekvente evalueringer
- Lag reproduserbare rapporter, datasett og angrepstilfeller for kunder
- Identifiser sårbarheter som automatiserte tester kan overse
- Utvide evalueringsdekningen og bidra til å redusere uventede problemer i produksjon
- Samarbeid med ledende forskere om prosjekter som trener og forbedrer AI-systemer
Krav
- Flytende eller morsmålsnivå i engelsk og finsk
- Tidligere erfaring med red teaming innen adversarialt AI-arbeid, cybersikkerhet eller sosioteknisk sondering
- Evne til å teste AI-systemer adversarialt og presse dem mot feilpunkter
- Erfaring med å bruke rammeverk eller referansetester for strukturert testing
- Evne til å kommunisere risiko tydelig til både tekniske og ikke-tekniske målgrupper
- Tilpasningsevne på tvers av prosjekter og kundekrav
- Tilgjengelighet for et oppdrag som selvstendig oppdragstaker
- Må ikke være H-1B- eller STEM OPT-kandidat
- En fordel: erfaring med adversarial maskinlæring, inkludert jailbreak-datasett, promptinjektører, RLHF/DPO-angrep eller modellekstraksjon
- En fordel: erfaring med cybersikkerhet innen penetrasjonstesting, exploitutvikling eller reverse engineering
- En fordel: erfaring med sosioteknisk risiko innen sondering av trakassering eller desinformasjon, misbruksanalyse eller testing av samtalebasert AI
- En fordel: erfaring med psykologi, skuespill eller skriving som støtter ukonvensjonell adversarial tenkning
Fordeler
- Fullt fjernarbeid
- Fleksibel arbeidstid
- Ukentlige utbetalinger gjennom Stripe eller Wise
- Ressurser for trivsel og tydelige retningslinjer for prosjekter med høyere sensitivitet
- Mulighet til å få erfaring med red teaming av AI med menneskedata
- Direkte mulighet til å bidra til å gjøre AI-systemer mer robuste, sikre og pålitelige
- Konkurransedyktig betaling
- Anbefalingsbonus på opptil 250 USD for hver vellykkede anbefaling