51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
AI-sikkerhetsekspert (engelsk og kannada) – fjernkontrakt i USA
Mercor søker en AI-red teaming-spesialist som behersker engelsk og kannada, for å teste banebrytende modeller for sårbarheter. Arbeidet innebærer å lage reproduserbare angrepstilfeller, evalueringsdatasett og risikorapporter for AI-treningsprosjekter basert på menneskedata.
Beskrivelse
- Test samtalebaserte AI-modeller og agenter med jailbreaks, promptinjektiseringer, misbruksscenarioer, utnyttelse av skjevheter og manipulasjon over flere runder
- Lag annoteringer av menneskedata ved å dokumentere feil, kategorisere sårbarheter og identifisere systemiske risikoer
- Bruk etablerte taksonomier, referansetester og playbooks for å opprettholde konsekvente evalueringer
- Utarbeid reproduserbare kunderapporter, datasett og angrepstilfeller
- Vurder AI-svar om sensitive emner, inkludert skjevheter, feilinformasjon og skadelig atferd
- Undersøk AI-systemer for svakheter som automatiserte tester kan overse
- Utvide evalueringsdekningen for å bidra til å begrense uventede problemer i produksjon
- Støtt opplæringen og forbedringen av banebrytende modeller for Mercors AI-laboratorium og bedriftskunder
Krav
- Engelsk og kannada på morsmålsnivå
- God dømmekraft ved vurdering av om AI-svar er korrekte, fullstendige og passende
- Gode kommunikasjonsevner for å forklare resonnementer til tekniske og ikke-tekniske målgrupper
- Svært god oppmerksomhet på subtile feil, uoverensstemmelser og utelatelser
- Evne til konsekvent å bruke taksonomier, referansetester, playbooks, retningslinjer og kvalitetsstandarder
- Fleksibilitet til å arbeide med ulike prosjekter, oppgaveformater og kunder
- Evne til å arbeide som selvstendig oppdragstaker
- Må ikke ha behov for H-1B- eller STEM OPT-sponsing; disse sponsingsordningene støttes ikke
- Relevant erfaring med adversarial maskinlæring, cybersikkerhet, sosioteknisk risiko, testing av samtalebasert AI, psykologi, skuespill eller ukonvensjonell adversarial skriving er en fordel
Fordeler
- Jobb helt eksternt med fleksibilitet til å sette opp din egen arbeidstid
- Motta ukentlige betalinger gjennom Stripe eller Wise for leverte tjenester
- Velg om du vil delta i prosjekter med innhold av høyere sensitivitet
- Få tydelig veiledning og ressurser for trivsel ved oppdrag med sensitivt innhold
- Motta konkurransedyktig betaling
- Få praktisk erfaring med menneskedatadrevet AI-red teaming
- Samarbeid med ledende forskere
- Be om rimelig tilrettelegging ved behov
- Tjen henvisningsbetalinger på opptil 90 USD for hver vellykkede henvisning