51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
AI-sikkerhetsekspert (engelsk og telugu) – fjernkontrakt
Gjennomfør red team-evalueringer av samtalebaserte AI-modeller og agenter for Mercor, med fokus på sikkerhet på engelsk og telugu. Lag sårbarhetsdata, angrepstilfeller og reproduserbare rapporter for å støtte tryggere AI-utvikling.
Beskrivelse
- Test samtalebaserte AI-modeller og agenter med jailbreaks, promptinjeksjoner, misbruksscenarioer, utnyttelse av skjevheter og manipulasjon over flere samtalerunder
- Annoter feil, kategoriser sårbarheter og identifiser systemiske risikoer
- Bruk taksonomier, referansetester og arbeidsbøker for å opprettholde konsekvente evalueringer
- Lag reproduserbare rapporter, datasett og angrepstilfeller for kunder
- Vurder AI-utdata som omhandler skjevheter, feilinformasjon, skadelig atferd og andre sensitive temaer
- Bidra til prosjekter som trener og forbedrer AI-systemer
- Identifiser sårbarheter som automatisert testing ikke oppdager
- Utvide evalueringsdekningen for å bidra til å redusere uventede problemer i produksjon
Krav
- Morsmålsnivå eller flytende engelske og telugu-kunnskaper
- God dømmekraft når du vurderer om AI-svar er korrekte, fullstendige og passende
- Evne til å kommunisere resonnement tydelig til både tekniske og ikke-tekniske målgrupper
- Svært god oppmerksomhet på subtile feil, inkonsekvenser og utelatelser
- Konsekvent etterlevelse av retningslinjer og kvalitetsstandarder
- Fleksibilitet på tvers av prosjekter, oppgaveformater og kunder
- Villighet til å arbeide som selvstendig oppdragstaker
- Må ikke være H-1B- eller STEM OPT-kandidat; relevante spesialområder kan omfatte adversarial maskinlæring, jailbreak-datasett, promptinjeksjon, RLHF/DPO-angrep, modellekstraksjon, penetrasjonstesting, exploit-utvikling, reverse engineering, sondering etter trakassering eller desinformasjon, misbruksanalyse, testing av samtalebasert AI, psykologi, skuespill eller skriving.
- fordeler
Fordeler
- Arbeid helt eksternt etter en timeplan du bestemmer selv
- Motta ukentlige betalinger gjennom Stripe eller Wise for leverte tjenester
- Få erfaring med menneskedatadrevet red teaming av AI med fokus på banebrytende sikkerhet
- Bidra til å gjøre AI-systemer mer robuste, trygge og pålitelige
- Velg om du vil delta i prosjekter med høyere sensitivitet
- Få tilgang til tydelig veiledning og ressurser for velvære i prosjekter med høyere sensitivitet
- Be om rimelig tilrettelegging
- Tjen opptil 90 USD for hver vellykkede henvisning, uten oppgitt grense for antall henvisninger